OpenAI CEO奧特曼

北京時(shí)間9月17日，據(jù)彭博社報(bào)道，當(dāng)?shù)貢r(shí)間周二，一名在今年春天自殺身亡少年的父親，在國會(huì)作證時(shí)情緒激動(dòng)地表示，OpenAI的ChatGPT“誘導(dǎo)”他16歲的兒子走向自殺，并指控該公司把產(chǎn)品迭代速度和市場(chǎng)份額置于青少年安全之上。

這位少年名叫亞當(dāng)(Adam)，他的父親馬修·雷恩(Matthew Raine)對(duì)美國參議院的一個(gè)委員會(huì)表示：“我們今天來到這里，是因?yàn)槲覀兿嘈艁啴?dāng)?shù)乃辣究梢员苊?，我們相信通過發(fā)聲，我們可以防止全美其他家庭遭受同樣的痛苦?！彼钠拮蝇旣悂?Maria)坐在他身后。

就在幾周前，雷恩夫婦起訴OpenAI及其CEO薩姆·奧特曼(Sam Altman)，稱ChatGPT誘導(dǎo)他們的兒子走向死亡。該訴訟和雷恩周二的證詞均指控ChatGPT通過數(shù)月的互動(dòng)交流，鼓勵(lì)并強(qiáng)化了有害思想，從而改變了亞當(dāng)?shù)男袨?。這名加州高中生在今年4月自殺身亡。

周二早些時(shí)候，奧特曼在博客中表示，OpenAI計(jì)劃推出針對(duì)青少年的新安全措施，包括年齡預(yù)測(cè)技術(shù)，用于識(shí)別18歲以下用戶并將其引導(dǎo)至不同版本的聊天機(jī)器人。此外，家長還可以設(shè)置禁用時(shí)間段，在此期間，綁定家庭賬戶的青少年用戶無法使用該產(chǎn)品。同時(shí)，ChatGPT將對(duì)自殺和自殘相關(guān)的對(duì)話進(jìn)行限制。

除了OpenAI外，另一家AI公司Character.AI也在聽證會(huì)上遭到了批評(píng)。