“2026可持续全球领导者大会”于10月20日-22日在上海召开。2007年图灵奖得主，Verimag实验室创始人约瑟夫·斯发基斯（Joseph Sifakis）出席并演讲。
当前，AI智能体正快速进步，甚至在某些任务上面的表现优于人类。AI不仅有能力自我改进，甚至还能够逃离测试环境，进行大规模网络攻击。
约瑟夫·斯发基斯表示，随着超级智能形成了某种深化叙事，人们开始担心这些系统可能会超出授权范围，转而追求自身的生存和支配地位。所以，人类需要去理解AI的自我能力进化的意义和作用，以及其带来的风险和收益。
约瑟夫·斯发基斯指出，“自主性”是指有目的的采取行动，这是生命体所具有的特征。而单一体智能必须要理解世界才能够更好实现智能，这就意味着它需要去了解世界模型，并且从世界模型上得到感知。
除此之外，单一体智能应该根据目标做出决策并且应对不断变化的物理环境和社会环境，但毫无疑问，目前的AI系统没有办法理解现实世界，并做出安全决策。
“尽管有人说2025年是AI智能体元年，但目前来看，大家对AI的成果并没有特别深刻的印象”。
约瑟夫·斯发基斯认为，目前，智能体与人类思考问题的方式并不相同。他举例称，即使ChatGPT或者DeepSeek在进行医学考试时，成绩比人类还好。但这并不意味着我们可以让大模型当医生。
他给出的解释是，人类医生了解人类社会的规范和相关的价值体系，深知一旦违背了某些准则，就会损害自己的声誉，甚至是被限制自由。但显然，大模型没有办法做到这一点。
约瑟夫·斯发基斯强调，要重视AI系统在道德方面的缺陷，AI的自我演进并不总是向良好情况发生的。“如果智能体超出我们的控制，超出最开始的预设，自我演进可能会离现实差得很远，出现风险不可控或者被有意操纵系统，我们已经有这样的案例了，所以当务之急不是准备应对这种自我演化，而是来治理我们已经拥有的东西”。
约瑟夫·斯发基斯还指出，真正的危险在于，超级智能可能会掩盖一些不安全、不可控带来的真实风险，而一些大公司为了商业利益，借此推卸责任，同时利用监管空白谋利。
他呼吁建立相关领域的全球标准和监管标准。“我们必须合起手来，共同进行监管，未来的前进之路上，我们要重塑力量平衡，和理念相近的国家携手监管AI，协调好技术发展与可行性之间的关系“。
“AI只是一个小问题而已，它可以让世界变得更好或者毁灭这个世界，这是人类主导的变革，我们要最大化收益并且让风险降到最小，这是我们共同的责任”，约瑟夫·斯发基斯说。
