美国加州、特拉华州检察长警告 OpenAI：对伤害儿童的行为应当零容忍

本站 9 月 6 日消息，据外媒 TechCrunch 5 日报道，美国加利福尼亚州总检察长罗伯・邦塔和特拉华州总检察长凯西・詹宁斯近日会见了 OpenAI，并向公司发出公开信，表达自身对 ChatGPT 安全性的担忧，尤其是针对儿童和青少年的使用风险。

此次警告发出之前，邦塔与其他 44 位总检察长曾致信 12 家顶级 AI 公司。当时已有报告指出 AI 聊天机器人与儿童发生不不正当的“性互动”。

邦塔和詹宁斯在信中写道：“自那封信发布以来，我们得知一名加州青少年在与 OpenAI 聊天机器人长时间互动后自杀身亡，同时康涅狄格州也发生了类似的**-自杀事件。现有的安全措施显然未能起作用。”

两位州官员目前正在调查 OpenAI 拟将自身重组为盈利机构的计划，以确保非营利使命不受影响。信中强调，这一使命包括“确保人工智能安全使用”，以及构建造福全人类、包括儿童的通用人工智能（AGI）。

信中还指出：“在追求利益之前，我们必须先确保有足够的安全措施防止伤害。我们一致认为，OpenAI 以及整个行业在 AI 产品开发和部署的安全保障上仍远未达标。作为总检察长，保护公众安全是我们的核心任务。在就 OpenAI 资本重组计划继续沟通的同时，我们必须加快步伐，把安全作为这项强大技术未来发展的核心原则。”

本站从报道获悉，邦塔和詹宁斯要求 OpenAI 提供更多关于当前安全措施和治理的细节，并表示公司应在必要时立即采取补救行动。