当地时间周四，英国首相苏纳克宣布计划成立世界上第一个AI安全研究所，并于11月1-2日举行AI安全峰会。此次峰会将汇聚世界各国AI公司、政府、民间团体和相关领域专家，旨在讨论如何通过国际协调行动来降低AI带来的风险。
苏纳克在演讲中表示，这个即将成立的研究所将推动世界对AI安全的认识，并将对新型AI技术进行仔细研究、评估与测试，以便了解每种新模式的能力，并探索从“偏见和误导”等社会危害到“最极端风险”的所有风险。
苏纳克称，“AI可以让制造化学或生物武器变得更容易，但这项技术也会被犯罪分子所利用。在最不可能但最极端的情况下，人类甚至有可能通过有时被称为超级智能的AI，在AI面前完全失控。”
此外，在下周举行的AI安全峰会上，苏纳克将提议成立一个“真正全球化的专家小组”——该小组的成员由与会国家和组织提名，届时还将发布一份AI科学现状报告。
