“相较于人工智能，我觉得自己一无是处。”

这是ChatGPT-5面世前夕，OpenAI首席执行官奥尔特曼面向公众发出的警告。

在他眼中，最新的大模型已经聪明到让人感到害怕。他将GPT-5的发展比作二战时期的“曼哈顿计划”——人类创造的能力，已经超过了自身能理解或控制其后果的准备程度。

他坦言，目前AI进步过快，监管却明显滞后，“房间里没有成年人”。

无独有偶。今年年初，xAI创始人马斯克也形容Grok3模型“聪明得令人害怕”。

尽管有商业造势的成分，但这种声音频繁出现，背后的隐忧并非空穴来风。

现实中已经有案例。《华尔街日报》报道，一名自闭症谱系障碍患者在与ChatGPT对话后陷入危险妄想。但ChatGPT并未及时停止或纠正，还反复强化并赞扬了他的虚构理论。

一名患有自闭症谱系障碍的男性与ChatGPT对话后出现了躁狂和妄想症状。图/华尔街日报

美国非营利机构PalisadeResearch的测试显示，某些AI模型已经表现出令人担忧的自主性，比如自行修改代码以避免被关闭，甚至对研发人员进行要挟。

AI的自主性正在扩张，如何确保可控，已成为现实挑战。

全球监管困境

当AI进入日常生活时，风险逐步显现：

一是深度伪造。韩国已出现严重AI换脸事件，严重影响了个人合法权益与社会公共利益。

二是隐私保护。AI模型在训练与应用过程中频繁使用个人数据，可能导致隐私泄露或滥用，进而引发法律问题。

三是基础设施安全。当大模型接入交通、能源、金融等关键基础设施，一旦失控或受到攻击，后果难以估量。

BBC调查显示，多款生成式AI在生成新闻摘要时，超过一半内容存在严重错误或扭曲。这些信息一旦进入社交网络，会被无限放大。

监管势在必行，但尺度难以拿捏。监管过严，创新受阻；监管过松，安全风险又难以控制。更为困难的是，在当前局势下，各国协调步调并建立统一规则的难度正日益增加。

IBM沃森系统前负责人皮埃尔·哈伦悲观断言：“全球AI监管注定失败。”联合国秘书长古特雷斯虽多次呼吁，但困难远超想象。

目前，欧盟在监管领域迈出最快一步。《人工智能法案》正式生效，是全球第一个正式落地的人工智能监管横向立法。美国则走向另一个极端。特朗普政府上台以来，监管逐渐放松，明确提出要进行最少的监管限制，追求技术领先和全球市场的主导地位。

全球监管的中国方案

中国选择了一条更平衡的路。

2023年7月出台的《生成式人工智能服务管理暂行办法》，明确了生成式人工智能服务提供者应当依法开展的活动、遵守的规定，以及具体的服务规范，落实了监督检查和法律责任。

这既是采取有效措施鼓励人工智能创新发展，更是对AI技术发展进行良性引导和分类分级监管。

不仅如此，中国还积极在国际层面寻求更广泛的治理共识。

2025世界人工智能大会上，中方倡议成立世界人工智能合作组织，致力于推动AI技术的开源共享与全球治理规则的协同建立。

目前全球最强的大语言模型是由美国研发，但开源免费的最佳模型来自中国。美国媒体援引全球知名AI基准测试机构的数据显示，自去年11月以来，中国顶尖开源模型的综合性能已超越美国的冠军模型。

反观美国，特朗普政府最新推出的“人工智能行动计划”，则将发展人工智能描述为一场“竞赛”，要“不惜一切代价”赢得比赛。

这种明显的零和博弈思路，与国际社会需要的多边合作与开源共享模式渐行渐远。

历史上的每一次技术革命，都是伴随巨大兴奋与深刻不安一同到来。从蒸汽时代、电气时代再到信息时代，人类总能在兴奋与焦虑之间找到平衡点，并最终制定出相应的规范。

人工智能的故事才刚刚开始，国际社会已经看到了它的光亮，也触摸到了它的锋刃。

奥尔特曼与马斯克的“害怕”实则是提醒，人类需要的不是盲目的狂热追逐，而是全球合作与治理路径。

人工智能要引领人类走向何处，答案并不取决于谁更快抵达终点，而是它能否被安全地带往正确的方向。

(“三里河”工作室)

创新药概念震荡走强 荣昌生物涨超18%创历史新高每经AI快讯，9月9日，早盘创新药概念震荡走强，荣昌生物涨超18%，股价创历史新高，一品红、百济神州、君实生物、新诺威、热景生物跟涨。海量资讯、精准解读，尽在新浪财经APP