微软间谍风波之后，是时候从生态系统的角度看问题了
Microsoft 最近抓住了国家支持的黑客使用其生成式 AI 工具帮助他们进行攻击。在安全社区中，最直接的问题不是黑客如何使用这些工具（这是完全可以预见的），而是微软是如何发现这一点的。自然而然的结论是，微软正在监视其人工智能用户，寻找工作中的有害黑客。
一些人反驳将微软的行为定性为 “间谍行为”。 当然，云服务提供商会监控用户的操作。由于我们预计微软会采取类似的行动，因此称其为 “间谍 “并不公平。
我们认为这种争论是我们对隐私的集体期望发生变化的一个例子。为了了解正在发生的事情，我们可以从一个不太可能的来源学习：鱼。
20 世纪中期，科学家们开始注意到，由于过度捕捞，海洋中的鱼类数量开始急剧下降，其数量之多足以成为 “海里有的是鱼 “这句话的基础。二战后的捕鲸业几乎使许多物种灭绝，他们已经看到了鲸鱼数量的类似减少。在捕鲸业以及后来的商业捕鱼业中，新技术使人们更容易发现和捕获数量越来越多的海洋生物。生态学家，特别是从事渔业管理的生态学家，开始研究某些鱼类种群是如何以及何时出现严重衰退的。
一位名叫丹尼尔-保利的科学家意识到，研究鱼类种群的科研人员在试图确定可接受的渔获量时犯了一个重大错误。科学家们并不是没有意识到鱼类数量正在减少。只是他们没有意识到下降的幅度有多大。Pauly 指出，每一代科学家都有一个不同的基准线，他们将当前的统计数据与之进行比较，而每一代科学家的基准线都低于上一代。
在我们安全社区看来，正常的情况就是我们职业生涯之初司空见惯的情况。
Pauly 在 1995 年的一篇论文中将此称为”基线偏移综合症”。大多数科学家使用的基线是他们开始研究生涯时的正常基线。根据这一标准，随后的每次下降并不显著，但累积的下降却是毁灭性的。每一代研究人员都是在新的生态和技术环境中成长起来的，无意中掩盖了指数式的衰退。
波利的洞察力来得太晚，无法帮助那些管理某些渔业的人。20 世纪 90 年代，西北大西洋鳕鱼种群完全崩溃，海洋遭受了灾难。
互联网监控以及由此导致的隐私权的丧失也遵循着同样的轨迹。正如世界海洋中的某些鱼类数量从以前的下降 80%，再从以前的下降 80%（无穷无尽），我们对隐私的期望也同样急剧下降。现代科技的无孔不入使得监控比以往任何时候都更加容易，而每一代公众都习惯了他们年轻时的隐私现状。在我们安全界看来，什么是正常的，什么就是我们职业生涯之初的普遍现象。
从历史上看，人们控制着自己的电脑，而软件则是独立的。软件和服务的始终连接云部署模式颠覆了这一模式。大多数应用程序和服务都被设计为始终在线，并将使用信息反馈给公司。这种现代部署模式的一个后果是，每个人–愤世嫉俗的技术人员甚至普通用户–都希望你使用现代技术所做的事情不是隐私。但这是因为基线已经发生了变化。
人工智能聊天机器人是这种现象的最新体现：它们会根据您的输入产生输出，但在幕后有一个复杂的云端系统在跟踪这些输入，以改进服务并向您销售广告。
基线的变化是我们集体丧失隐私的核心原因。美国最高法院长期以来一直认为，我们的隐私权取决于我们是否对隐私抱有合理的期望。但是，期望是一种模糊的东西：它受制于不断变化的基线。
问题仍然存在：现在怎么办？掌握了基线移动综合症知识的渔业科学家们现在着眼于全局。他们不再考虑相对的衡量标准，比如将这个十年与上个十年进行比较。取而代之的是，他们从整体的、整个生态系统的角度来审视健康的海洋生态系统以及可持续渔获量应该是什么样的。然后，他们将这些科学得出的可持续渔获量数字转化为限额，并由监管机构进行编纂。
在隐私和安全领域，我们也需要这样做。我们需要后退一步，看看一个健康的技术生态系统会是什么样子：既尊重人们的隐私权，又允许公司为其提供的服务收回成本，而不是与不断变化的基线进行比较。归根结底，与渔业一样，我们需要从大局出发，意识到基线的变化。无论是海洋还是互联网，要想为下一代保护遗产，就必须有一个有科学依据且民主的监管过程。
作者：巴拉特-拉加万和布鲁斯-施奈尔