7月26日，2025世界人工智能大會暨人工智能全球治理高級別會議（WAIC）在上海開幕?，F(xiàn)年77歲的“AI教父”、圖靈獎和2024年諾貝爾獎雙料得主杰弗里·辛頓（Geoffrey Hinton）第一次踏上了中國，并在開幕上演講提到人工智能可能會戰(zhàn)勝人類智能，這讓他感到擔(dān)憂，人類要避免“養(yǎng)虎為患”。

辛頓表示，”我們正在創(chuàng)造AI智能體是因?yàn)樗鼈兏瞄L完成任務(wù)，這些AI智能體已經(jīng)具備創(chuàng)造自己子目標(biāo)的能力。而一旦擁有創(chuàng)造子目標(biāo)的能力，智能體就會想做兩件事：一是生存，僅僅是為了能夠?qū)崿F(xiàn)我們賦予它們的目標(biāo)；二是更多的控制權(quán)，也僅僅是為了能夠?qū)崿F(xiàn)我們賦予它們的目標(biāo)?！?/span>

因此，人類將會擁有想要生存和想要更多控制權(quán)的智能體，而且將無法簡單地關(guān)閉它們。辛頓認(rèn)為AI不會給人類“拔網(wǎng)線”的機(jī)會，到了那一天AI會勸說人們不要這么做。同時，AI已無法消除，它能大幅提升幾乎所有行業(yè)的效率，即便有國家想消除，其他國家也不會認(rèn)同。

談及人工智能的安全性，辛頓表示，人類正處于一個關(guān)鍵轉(zhuǎn)折點(diǎn)——人工智能系統(tǒng)正迅速接近并可能超越人類智能水平，會執(zhí)行并非操作者所期望或預(yù)測的行動?！拔覀円呀?jīng)習(xí)慣是世界上最智慧的生物，如果不是了呢？”

通用人工智能有失控的風(fēng)險，從而帶來災(zāi)難。辛頓稱，人類對AI的控制，就像“三歲孩子制定規(guī)則約束大人”?，F(xiàn)在的情況，相當(dāng)于人類養(yǎng)了一只老虎，我們一定要讓老虎遵守規(guī)矩，也就是指引AI向善。這也與人工智能大會的主題“智能時代，同球共濟(jì)”不謀而合。

他還指出，在人工智能領(lǐng)域，各國利益并非完全一致，但有一個核心共識能讓各國走到一起，那就是阻止人工智能取代人類。全球主要國家或AI主要國家應(yīng)該思考建立一個網(wǎng)絡(luò)，包括各個國家的一些機(jī)構(gòu)來研究這些問題，研究怎么訓(xùn)練一個已經(jīng)非常聰明的AI，讓AI不想要消滅人類、不想要統(tǒng)治世界，讓AI很高興做一個輔助工作。

“基于AI的風(fēng)險，我們需要研究的不僅僅是聰明的AI技術(shù)，同時也可以有使AI變得善良的技術(shù)，雖然目前還未出現(xiàn)，但這是一個值得我們?nèi)ヌ剿鞯目赡苄??！毙令D說。