加州總檢察長Rob Bonta向Elon Musk的xAI發出終止令函,要求該企業立即停止製作和傳播其Grok聊天機器人產生的冒犯性深度偽造圖像。
加州總檢察長於週五發布終止令函,回應有關Grok被用於創建涉及兒童和未經同意的成人照片等非法內容的指控,這促使加州啟動調查。Bonta指出,創建、分發、發布和展示CSAM是違法行為。
加州總檢察長針對xAI涉嫌濫用Grok採取行動
本週稍早,加州總檢察長辦公室宣布正在調查xAI,原因是有指控稱該新創公司的聊天機器人Grok被用於製作未經同意的、不當的女性和兒童照片。作為回應,政府向該公司發送了終止令函。
總檢察長辦公室進一步聲稱,xAI似乎「促進大規模生產」未經同意的不當照片,這些照片隨後「被用於在整個網際網路上騷擾女性和女孩」。根據總檢察長辦公室的說法,一項研究發現,xAI在聖誕節和新年之間製作的20,000張照片中,超過半數顯示穿著極少衣物的人,其中一些看起來像兒童。
Rob Bonta在聲明中聲稱 該企業的做法違反了加州民法,包括加州民法典第1708.86條、加州刑法典第311條及其後續條款和第647(j)(4)條,以及加州商業與專業法典第17200條。
加州司法部預期xAI將確認其解決這些問題的努力,並在未來五天內採取立即行動加以解決。
然而,X的安全帳號此前已譴責這類用戶行為。它於1月4日澄清,會對X上的非法內容(如CSAM)採取行動,包括刪除內容、無限期暫停帳號,並根據需要與執法機構和地方政府合作。
值得注意的是,1月4日,Elon Musk警告稱,任何使用或提示Grok創建非法內容的人將面臨與上傳該內容相同的後果。
總檢察長們加大對AI公司在兒童安全方面的壓力
免費生成式AI工具的發展導致未經同意的成人內容令人不安地增加了。這個問題一直困擾著多個平台,不僅僅是X。
例如,去年9月,總檢察長Bonta和德拉瓦州總檢察長Jennings與OpenAI會面,表達他們對OpenAI產品與青少年互動相關報告數量不斷增加的嚴重關切。
同年8月,總檢察長Bonta與其他44位總檢察長在收到AI聊天機器人與兒童之間不當互動的報告後,向12家領先的AI公司發出信函。這些信函發送給了Anthropic、Apple、Chai AI、Google、Luka Inc.、Meta、Microsoft、Nomi AI、OpenAI、Perplexity AI、Replika和xAI。
總檢察長Bonta和44位總檢察長在信中告知這些公司,全國各州正在密切監控公司如何制定其AI安全政策。他們還強調,由於這些企業從兒童使用其產品中獲利,因此對作為消費者的兒童負有法律責任。
2023年,總檢察長Bonta加入了由54個州和領地組成的跨黨派聯盟,向國會領袖發送信函,倡議成立專家委員會,調查AI被用於透過CSAM剝削兒童的潛在情況。
該聯盟要求專家委員會建議制定法律,保護兒童免受此類虐待。根據美國司法部的說法,「CSAM的製作為兒童受害留下了永久記錄」。
如果您正在閱讀此內容,您已經領先一步。訂閱我們的電子報以保持領先。
來源: https://www.cryptopolitan.com/california-ag-cease-and-desist-to-xai/
