4 posts tagged with AI安全
OpenAI首席执行官萨姆·奥尔特曼近日表示，公司不会在2026年上市，理由是人工智能安全担忧持续增加。他在接受《财富》杂志采访时称，当前进行IPO是“不明智的”，这一决定将备受期待的上市计划推迟至至少2027年。与此同时，Anthropic首席执行官达里奥·阿莫代伊呼吁放缓最先进模型的改进速度，并提出涉及第三方评估、企业共同标准及政府协调的三步计划。奥尔特曼和马斯克公开表示支持。
人工智能研究员雅各布·考克森周二从Anthropic辞职，并在X上指责Anthropic与OpenAI在“拿我们的生命赌博”。曾在两家公司任职的考克森说，开发AI的人真诚相信，AI可能在十年内杀死所有人类；他的帖子浏览量已超过7000万次。Anthropic对齐负责人埃文·胡宾格回应称，他个人估计未来十年发生这种结果的可能性超过10%，并承认公司尚未解决超级智能对齐问题。事件发生之际，两家公司正发布更先进模型，并朝可能具有历史意义的首次公开募股迈进。
4月30日，埃隆·马斯克在加州奥克兰联邦法院结束了对OpenAI诉讼的第三天作证。庭审围绕OpenAI从2015年非营利初创公司转型为价值数千亿美元营利企业的合法性展开。马斯克指控联合创始人萨姆·奥尔特曼背弃了保持非营利、服务人类利益的承诺。法官伊冯·冈萨雷斯·罗杰斯多次制止双方讨论AI安全风险，强调本案不涉及AI是否危害人类。OpenAI律师否认曾承诺永远保持非营利，并指马斯克的诉讼意在削弱OpenAI增长、扶持其2023年创立的xAI公司。庭审预计持续至5月下旬。
AI公司Anthropic于周一在加利福尼亚联邦法院和华盛顿特区联邦上诉法院对美国政府提起两项联邦诉讼，指控五角大楼官员因其在人工智能安全方面的立场而非法报复。