本报讯 近日，美国总统拜登签署了一项关于人工智能的行政命令，旨在在监管人工智能安全方面发挥指导作用，但后续仍需美国立法者采取行动，以及科技公司的配合。

这一行政命令明确了美国政府机构制定人工智能系统测试和使用的指导方针，包括让美国国家标准与技术研究院为“红队测试”设定基准。红队测试是一种全方位、多层次的攻击模拟。

美国康奈尔大学的Sarah Kreps表示：“这份行政命令表明，美国有意成为在人工智能监管方面最积极主动的国家。”Kreps表示，拜登的行政命令恰好在英国政府召开人工智能峰会之前发布，这可能“并非巧合”。但她警告说，除非美国国会能够促使其立法并提供资源支持，否则单凭这一行政命令不会产生太大影响。

意大利博洛尼亚大学的 Emmie Hine表示，这一行政命令遵循了拜登政府在人工智能问题上采取的非约束性行动原则。去年美国政府发布了《人工智能权利法案蓝图》，最近还征求了开发人工智能大公司的意愿。

这一行政命令还可能影响在庞大数据集上训练的大型人工智能模型，前提是这些模型“对国家安全、国家经济安全和国家公共卫生安全构成严重风险”。该命令使用了另一项名为《国防生产法》的立法，要求开发此类人工智能的公司将训练人工智能的过程通知政府，并分享所有红队安全测试的结果。

这些人工智能可能包括OpenAI公司开发的ChatGPT背后的GPT-3.5和GPT-4模型、谷歌公司开发的支持该公司Bard AI聊天机器人的PaLM 2模型，以及Stability AI公司开发的用于生成图像的Stable Diffusion模型。Hine表示：“这将迫使那些公司打开自己的黑匣子。”

不过，Hine强调，当涉及如何定义哪些基础模型构成“严重风险”时，可能“细节决定成败”。同样，Kreps质疑行政命令措辞的“限定性”和“模棱两可”，它没有明确说明如何定义“基础模型”，以及由谁来确定何为威胁。

Hine说，美国缺乏欧盟那种强有力的数据保护法律，“美国拥有人工智能开发的优势，但可以依赖的具体监管依据却不多”。（文乐乐）