北美时间3月30日，美国联邦贸易委员会(FTC)接到人工智能和数字政策中心（CAIDP ）的投诉，要求对OpenAI及其产品GPT-4进行调查。（详细内容：https://www.caidp.org/cases/openai/）
CAIDP表示，OpenAI违反了 FTC法案第5节、FTC AI产品指南和AI治理规则，存在偏见、欺诈，并对隐私和公共安全构成风险。要求FTC对Open AI展开调查并暂停GPT产品的商业部署，直到该公司遵守FTC对AI产品的指导方针。
“联邦贸易委员会有明确的责任调查和禁止不公平和欺骗性的贸易行为。我们认为FTC应该密切关注OpenAI和GPT-4。”CAIDP总裁兼总法律顾问Marc Rotenberg说。“我们特别要求联邦贸易委员会确定，Open AI是否遵守了联邦机构发布的指南。”
正式提出诉讼
CAIDP 的投诉背景
全球发展人工智能技术是以人为本、值得信赖等为基础。而生成式AI的出现与传统AI技术有本质的区别，它们具备输出歧视、虚假信息、窃取隐私等行为，例如，教唆他人如何实施有害行为等。尤其是多模态大语言模型GPT-4具备了识别图片、大规模监控等能力，在破坏力方面更强。
此外，关于GPT-4的最新技术论文几乎没有提供有关训练数据、参数或评估方法的信息。所有新兴人工智能政策框架的基本要求，部署前的独立影响评估从未被采用。
许多领先的人工智能专家，包括许多公司本身都呼吁进行监管。然而，即使世界各国竞相建立法律保障措施，就算美国也几乎没有做出监管的的回应。
目前的AI发展路线无法持续。公众需要更多关于人工智能影响的信息。独立专家需要有机会审问这些模型。应该制定法律来促进算法透明度和反算法偏见。应该成立一个国家级委员会来评估人工智能对社会的影响，以更好地了解收益和风险。
CAIDP支持AI增长和创新。认识到人工智能可能提供的广泛机会和好处。但是，除非能够保持对这些AI的控制，否则我们将无法管理由此产生的风险或可能出现的灾难性后果。
千人签名希望暂停GPT-4及更强大AI模型训练6个月，构建共享安全协议
前不久，由马斯克、图灵奖得主-Yoshua Bengio、苹果联合创始人-Steve Wozniak、Stability AI首席执行官-Emad Mostaque等名人发起了一封公开信，呼吁暂停GPT-4及更强大AI模型训练6个月。
这种暂停应该是公开的和可验证的，并且包括所有关键参与者。如果不能迅速实施暂停，政府应介入并暂停。公开信强调，这种暂停并不是彻底放弃AI研发，相反，只是想让AI研发在安全、稳定、透明、值得信赖的环境中进展，而不是一种危险、无法控制、不可预测的恶性竞争。
该公开信认为，AI实验室和业内专家应该利用这次暂停，共同开发和实施一套用于高级人工智能设计和开发的共享安全协议，并由独立的外部专家进行严格审计和监督。这些协议应确保遵守他们的AI系统是安全的，无可置疑的，对人类是没有伤害的。
此外，AI 开发人员必须与政策制定者合作，以加快开发强大的AI 治理系统。至少应包括：专门负责AI的新的和有能力的监管机构；监督和跟踪高性能人工智能系统和大量计算能力；
设计水印系统，以帮助区分真实与合成并跟踪模型泄漏；强大的审计和认证生态系统；人工智能造成的伤害的责任制度；为技术人工智能安全研究提供强大的公共资金；以及资源充足的机构，来应对人工智能将造成的巨大的经济破坏等。
目前该公开信支持者已达到1724人。
关于CAIDP
CAIDP成立于2021年，总部位于美国华盛顿。CAIDP是一家独立的非营利研究机构，主要评估国家AI政策和实践，培训AI政策领导者，并促进AI的民主价值观等。
– END –
报告下载
大佬观点
