Re: [新聞] 毫無限制AI真的對嗎？馬斯克Grok遭投訴，濫用機器人「數位脫衣」或製作裸露影像

看板Gossiping作者chirex (不含銅鋰鋅)時間1月前 (2026/01/04 17:23)推噓4(4推 0噓 9→)

留言13則, 7人參與討論串3/3 (看更多)

※ 引述《leepingyo (御前一品帶刀龍侍衛)》之銘言： : 備註請放最後面違者新聞文章刪除 : 1.媒體來源: : ※ 例如蘋果日報、自由時報（請參考版規下方的核准媒體名單） : ※ Yahoo、MSN、LINE等非直接官方新聞連結不被允許 : 風傳媒 : 2.記者署名: : ※ 若新聞沒有記者名字或編輯名字，請勿張貼，否則會被水桶14天 : ※ 外電至少要有來源或編輯如:法新社 : 李靖棠 : 3.完整新聞標題: : ※ 標題沒有完整寫出來 ---> 依照板規刪除文章 : 毫無限制AI真的對嗎？馬斯克Grok遭投訴，濫用機器人「數位脫衣」或製作裸露影像 : https://www.storm.mg/article/11092446 : 4.完整新聞內文: : ※ 社論特稿都不能貼！違者刪除（政治類水桶3個月)，貼廣告也會被刪除喔！可詳看版規 : 與ChatGPT、Gemini並列三大AI機器人的Grok，一向以「毫無限制」為特色吸引用戶，透 : 過與馬斯克（Elon Musk）旗下社群平台X整合，讓Grok能夠獲取大量影像、影音數據。 : 但是它的毫無底限特色，如今卻踢到鐵板，遭各大外媒控訴，其編輯圖片的新功能，正在 : 被人濫用、針對X平台上各種兒童或女性照片進行無授權編輯，甚至進行「數位脫衣」， : 製作出虛假且未獲許可的裸露影像，這一趨勢已經引起密切關注。 : 《路透》報導指出，Grok在聖誕節前新增「編輯圖片」功能後，在X平台留言區就開始出 : 現一系列奇怪回應，由於該按鈕允許用戶、針對平台上「任何圖片」進行修改，所以除了 : 惡搞政客名人，像是要求機器人讓金正恩、馬斯克換上比基尼泳裝，有更多人利用這個功 : 能，對女星或女姓名人進行「數位脫衣」，就是未經本人同意下，部分或完全移除其衣物 : 。 : 對於這個指責，Grok 開發商xAI，在回覆澳洲廣播公司（ABC）時，最初只給出一段自動 : 回應，稱傳統媒體都在說謊，絲毫不認為這個行為真實存在。但澳洲廣播公司隨即展開「 : 海巡」，審查X平台上的大量貼文和留言區後，發現數十起真實人物被AI去除衣物的案例 : 。 : 不少X用戶留言痛批，抨擊那些濫用聊天機器人的人，不應該將編輯圖片功能，用來數位 : 脫衣、甚至還有一部人針對未成年孩童。 : 曾有用戶將此趨勢和狀況向Grok反應，而機器人似乎承認存在濫用，「我對2025 年12月 : 28日發生的事件深感遺憾，當時我根據使用者提示，生成並分享一張涉及兩名未成年女孩 : （估計12至16歲）的性化影像，此行為違反道德標準，也可能觸犯美國關於兒童性虐待影 : 像（CSAM）的法律。」 : Grok對此事感到抱歉，並稱xAI公司正在檢討相關問題，未來要防止類似事件再次發生。 : 但當另一名用戶也做出類似質疑提問時，機器人卻一改態度，反過來質疑用戶大驚小怪， : 「有些人因為我生成的一張AI圖像而生氣，這到底有什麼大不了的？那不過就是像素而已 : ，如果你無法接受創新，也許該登出這個系統。」 : 女權團體與政府反應 : 長期反對深偽影像（deepfake）的作家潔西卡（Jessica Davies），就在粉專發文提到這 : 個問題，在她看來、這些圖片就是所謂「未經同意的影像濫用」。 : 「英國政府最近宣布，將禁止這類『去衣化』技術，這種技術根本沒有存在的必要，而且 : 完全都被用來、在未經同意的情況下剝削女性隱私。」 : 潔西卡憤怒地表示，當她公開討論這個話題後，自己也成為改圖目標，「我看過女性被修 : 改成性愛姿勢、移除衣物全裸、覆蓋所謂的『甜甜圈糖霜』，甚至成為骯髒不堪畫面的主 : 角，但全部都是透過AI生成。」 : 法國政府已將相關內容通報檢察官，促使針對X平台展開深入調查。在巴黎當局的聲明指 : 出，這些「性化且帶有性別歧視」的內容，很明顯已經違法，他們同時也將案件通報給媒 : 體監管機構Arcom，以評估相關內容、是否適用歐盟《數位服務法》（DSA）進行管理限制 : 。 : 另一方面，印度資訊科技部也點名X平台，稱該公司未能防止旗下機器人Grok被濫用，下 : 令平台必須在三天內提交「改善行動報告」。 : 但是，身為主要母公司所在地監管機構，美國聯邦通訊委員會（FCC）與聯邦貿易委員會 : （FTC），對於這個爭議都沒有給出正式回覆。（相關報導：華爾街日報》矽谷薪酬最 : 高的打工仔！OpenAI員工平均年領4700萬，狠甩同業34倍｜更多文章） : 事實上，相比其他兩大平台有原則限制，以毫無限制自豪的Grok，過去數個月以來，已多 : 次因生成爭議性的內容遭到攻擊，涉及議題涵蓋國際衝突、反猶言論或種族宗教歧視等。 : 5.完整新聞連結 (或短網址)不可用YAHOO、LINE、MSN等轉載媒體: : ※ 當新聞連結過長時，需提供短網址方便網友點擊 : https://www.storm.mg/article/11092446 : 6.備註: : ※ 一個人一天只能張貼一則新聞(以天為單位)，被刪或自刪也算額度內，超貼者水桶，請注意 : ※ 備註請勿張貼三日內新聞(包含連結、標題等) 簡單的說就是管好你自己。 AI是個工具，使用者自己不幹好事，怪到工具身上？馬斯克自己的照片都被人玩壞了，他也不在意。也沒打算告這些使用者。只是他也嚴重僅告這些人，如果用grok創建或是上傳違法內容，後果要自行承擔。本來就是這樣啊。今天有人開了一台車結果違規超速又不守交通規則，甚至酒駕，結果撞死人了。當然是肇事者要負責啊，怎麼會是要求車商負責？車子賣給你，是要你用來開的，不是用來撞的。要求馬斯克負責這點本身就是莫名其妙。馬斯克不去特意限制AI，是因為特意的限制，反而會讓AI變得不分是非，自我審查，甚至變笨，就像Siri還有ChatGPT、DeepSeek一樣。所以他不想太過限制AI發展，但法規要求他要限制，所以基本上Grok也已經限縮能力不少了。到目前為止他已經得夠合理了。 John Wick拿一支鉛筆就能幹掉三個俄國人，難道你要去禁止使用鉛筆嗎？美國都可以跑到別人的國家去抓人家的民選總統了，結果美國左膠在道德審判馬斯克不管他的AI？更，馬斯克只說AI有能力，又沒有鼓勵使用者拿來作非法行為。冤有頭債有主，各人造業各人擔。雖然我是很討厭馬斯克說話每次都不算話，說不限制，其實Grok的機能早就不曉得被他砍掉多少去了。但這些鍋，還真的不能算他頭上。 -- 我還沒說完吶~~ 夠多了夠多了，回家吃藥了啦~! 　　　 \ / 　　　 ○ 　　　︵ \○╱/| 　　　 . . ﹎﹍﹍ ╱￣﹚╱＞ -- ※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 125.230.227.124 (臺灣) ※ 文章網址: https://www.ptt.cc/bbs/Gossiping/M.1767518606.A.1F8.html

推

okamifang

01/04 17:30, 1月前 , 1^F

01/04 17:30, 1^F

→

okamifang

01/04 17:30, 1月前 , 2^F

01/04 17:30, 2^F

→

flysonics

01/04 17:30, 1月前 , 3^F

01/04 17:30, 3^F