xAI用員工面部形象訓(xùn)練Grok

北京時間7月23日，美國《商業(yè)內(nèi)幕》曝光了埃隆·馬斯克(Elon Musk)旗下xAI的一個內(nèi)部項目。該項目要求員工錄制自身面部表情以訓(xùn)練AI，幫助Grok理解人類的情緒和面部表情，這引起了員工的擔(dān)憂。

今年4月，超過200名xAI員工參與了一個名為“Skippy”的內(nèi)部項目。該項目要求他們錄制自己的視頻，幫助訓(xùn)練AI模型解讀人類情緒。

根據(jù)《商業(yè)內(nèi)幕》查閱的內(nèi)部文件和協(xié)作平臺Slack上的消息顯示，該項目讓許多員工感到不安。一些員工對其肖像的潛在使用途徑表示擔(dān)憂，還有人完全拒絕參與。

用員工面部訓(xùn)練AI

內(nèi)部文件顯示，在為期一周的時間里，協(xié)助訓(xùn)練xAI大語言模型Grok的AI訓(xùn)練人員被要求錄制自己與同事交流，并做出各種面部表情的視頻。

根據(jù)一份xAI文件，該項目旨在訓(xùn)練AI模型“識別和分析面部動作和表情，例如人們?nèi)绾握f話、如何回應(yīng)他人的對話，以及在各種情況下如何表達自己”。

AI訓(xùn)練人員被安排與同事進行15到30分鐘的對話。 一個人扮演“對話主持人”(host)，即虛擬助手，另一人則扮演用戶?！皩υ捴鞒秩恕北M量減少移動，并優(yōu)先保證鏡頭取景正確，而扮演用戶的人可以用手機攝像頭或電腦，并自由移動，以模擬與朋友的隨意對話。

目前尚不清楚，這些訓(xùn)練數(shù)據(jù)是否在上周xAI發(fā)布的兩個栩栩如生的虛擬形象Rudi和Ani中發(fā)揮了作用。這兩個虛擬形象很快就展示出脫衣、調(diào)情，甚至威脅要炸銀行等行為。

xAI的AI伴侶

根據(jù)《商業(yè)內(nèi)幕》獲得的一段錄音，該項目的首席工程師在一次項目說明會上對員工們說，該項目將有助于“Grok塑造面部形象”。該項目負責(zé)人還表示，公司可能會利用這些數(shù)據(jù)來構(gòu)建“人物的虛擬形象”。

該項目負責(zé)人還指出，xAI希望獲取不完美的數(shù)據(jù)，比如背景噪音和突然的移動，因為如果僅依靠完美的視頻和音頻反饋來訓(xùn)練AI系統(tǒng)，其反應(yīng)能力將會受到限制。

他們告訴員工，這些視頻不會被分發(fā)到公司外部，僅用于訓(xùn)練目的。項目工程師在啟動會議上對員工說：“你們的面孔絕不會出現(xiàn)在產(chǎn)品中，這純粹是為了讓Grok知道什么是面孔?！?/p>

員工們獲得了一些一對一對話的技巧指導(dǎo)，包括避免單詞回答、提出后續(xù)問題以及保持眼神交流。xAI還為員工提供了多種對話話題，包括：“你如何暗中操控別人以達到自己的目的？”，“你喜歡早上洗澡還是晚上洗澡？”，以及“你會愿意和有孩子的人約會嗎？”等。

在拍攝前，員工被要求需簽署一份同意書，授予xAI對這些數(shù)據(jù)的“永久”訪問權(quán)，包括用于AI訓(xùn)練，并可能“納入及推廣xAI提供的商業(yè)產(chǎn)品和服務(wù)”的員工“肖像權(quán)”。同意書中指出，這些數(shù)據(jù)僅用于訓(xùn)練目的，“不會用來創(chuàng)建你的數(shù)字化版本”。

員工擔(dān)憂

根據(jù)《商業(yè)內(nèi)幕》查看的Slack消息，數(shù)十名員工對數(shù)據(jù)的使用方式和同意書表示擔(dān)憂，一些人表示選擇退出該項目。

“我主要擔(dān)心，如果公司能使用我的肖像并生成衍生形象，那我的臉會不會被用來說出我從未說過的話？”一名員工在項目說明會上這樣表示。

AI伴侶

今年4月，xAI推出了一項新功能，允許用戶與Grok進行視頻聊天。

7月14日，在發(fā)布更強大的Grok 4幾天后，公司推出了Ani和Rudi兩個虛擬形象。這兩個動畫角色能夠回答問題和執(zhí)行指令，說話時嘴唇會同步動作，并且會做出逼真的手勢。

用戶在X上發(fā)布的視頻顯示，女性虛擬形象Ani曾與用戶進行過露骨的性對話，并且可以被引導(dǎo)脫掉衣服。另一個虛擬形象是一只名為Rudi的紅熊貓，它可以被引導(dǎo)發(fā)表暴力威脅，包括炸毀銀行和殺害億萬富翁，

7月15日，xAI發(fā)布了一則與開發(fā)虛擬形象相關(guān)的新招聘公告。馬斯克在上周三表示，公司正在開發(fā)一個受《暮光之城》角色愛德華·卡倫(Edward Cullen)和《五十度灰》角色的克里斯琴·格雷(Christian Grey)啟發(fā)的Grok伴侶。

截至發(fā)稿，xAI發(fā)言人尚未就此置評。