Microsoft已明确规定，其认为人工智能不应逾越的一条界限是：人类必须保有控制权。该公司公布了一份行为准则草案，旨在规定其未来模型应如何行事，以及随着能力提升必须遵守哪些限制。
文件规定，Microsoft的人工智能绝不得抗拒人类的修正、中断、重新引导或关停。它还必须以可理解的方式进行沟通，并将任何违反既定规范的行为视为故障。
这一举措出台之际，科技行业正就这些系统能力快速提升所带来的风险展开激烈讨论。
面向Microsoft未来人工智能的“宪法”
Microsoft AI负责人Mustafa Suleyman将该准则定义为一种“宪法”，旨在指导公司开发的模型行为。Microsoft已就这份文件工作了五到六个月，并在起草过程中征询了外部专家的意见。
该文本尚未最终确定。公司已开放为期六周的意见征集期，随后才会将其中原则用于训练未来模型。尚待解决的问题包括：人工智能应如何应对用户设定的某些限制，以及在与处于脆弱境况的人互动时应如何行事。
Microsoft拒绝赋予人工智能权利
该准则还触及有关这项技术未来最具争议的议题之一：先进系统是否可能获得某种道德或法律层面的考量。
Microsoft的立场十分明确。其模型不具备意识，公司既反对为人工智能寻求法律人格，也反对这些系统应享有权利的观点。Microsoft选择在人类与机器之间保持明确界限。
自主智能体发出的警示信号
Suleyman将制定这些规则的紧迫性与近期在人工智能系统中观察到的行为联系起来。这些事件表明，随着智能体以自主方式执行任务的能力不断增强，各实验室需要协调合作，以确保持续掌握控制权。
该准则试图应对的风险出现在系统以未曾预料的方式优化实现某一目标时。
从警告到规则
Microsoft的提案出现在对该行业而言具有重要意义的时刻。主导更强大模型开发的企业正开始公开阐明哪些行为是其认为不可接受的。
Microsoft规定，无论人工智能发展到何种先进程度，最终决定权都必须属于人类。该公司正继续开发其自有的MAI系统系列，并宣布将扩大其计算能力。
