微软对利用人工智能进行复杂开发的不良行为者采取法律行动

微软已决定对涉嫌滥用微软人工智能服务的网络犯罪分子采取法律行动。这家雷德蒙德巨头声称，这些行为者违反了美国法律、《可接受使用政策》以及这些工具所附的《行为准则》。

微软解释说：“微软观察到一个外国威胁组织开发了复杂的软件，利用从公共网站上获取的暴露的客户凭据，在此过程中，他们试图识别并非法访问某些生成式人工智能服务的账户，并故意改变这些服务的功能。网络犯罪分子随后使用这些服务，并将访问权限转售给其他恶意行为者，同时提供如何使用这些自定义工具生成有害和非法内容的详细说明。一经发现，微软就取消了网络犯罪分子的访问权限，采取了应对措施，并加强了保障措施，以进一步阻止未来的此类恶意活动。”

作为法律行动的一部分，微软已获得法院命令，查封了一个提供这些非法服务的网站。微软计划利用这一访问权来了解更多关于谁一直在运营这项服务的信息。它还将试图找出这些服务是如何盈利的，并试图破坏运营商运行的其他基础设施。

尽管行动者仍然逍遥法外，但微软正在增加额外的防护措施，以增加以公司观察到的方式利用人工智能的难度。虽然行为者不可避免地会找到绕过这些护栏的方法，但这将减缓他们的行动，并让微软有更多时间了解谁是幕后黑手。

各国政府和科技公司一直非常积极地关注人工智能带来的威胁。就像任何软件一样，人工智能也有非常有用的应用，但人们不可避免地会试图突破安全措施，将其用于恶意目的。这次事件表明，微软可以根据出现的新威胁调整自己的模型。