意大利數(shù)據(jù)保護(hù)機(jī)構(gòu)周一宣布,因違反用戶個人數(shù)據(jù)保護(hù)規(guī)則,對人工智能聊天機(jī)器人公司 Replika 的開發(fā)者處以 500 萬歐元(約合 564 萬美元)罰款。

  總部位于舊金山的初創(chuàng)公司 Replika 成立于 2017 年,為用戶提供可定制的虛擬形象,用戶可與其對話。這款 “虛擬朋友” 產(chǎn)品宣稱能夠改善用戶的情緒健康。

  2023 年 2 月,意大利隱私監(jiān)管機(jī)構(gòu) Garante 以兒童面臨特定風(fēng)險為由,下令 Replika 暫停在該國的服務(wù)。

  調(diào)查發(fā)現(xiàn),Replika 在處理用戶數(shù)據(jù)時缺乏法律依據(jù),且未設(shè)置年齡驗證系統(tǒng)限制兒童使用服務(wù),因此對其開發(fā)者 Luka Inc. 作出上述罰款。

意大利數(shù)據(jù)監(jiān)管機(jī)構(gòu)對AI公司Replika開發(fā)者處以560萬美元罰款  第1張

  路透社聯(lián)系 Replika 置評,未獲立即回應(yīng)。

  意大利監(jiān)管機(jī)構(gòu)還宣布展開另一項獨立調(diào)查,以評估 Replika 的生成式 AI 系統(tǒng)是否符合歐盟隱私規(guī)則,尤其是其語言模型訓(xùn)練環(huán)節(jié)的合規(guī)性。

  Garante 是歐盟范圍內(nèi)評估 AI 平臺是否遵守數(shù)據(jù)隱私規(guī)則最積極的監(jiān)管機(jī)構(gòu)之一。去年,該機(jī)構(gòu)曾因 ChatGPT 涉嫌違反歐盟隱私規(guī)則,在 2023 年短暫禁止其在意大利使用后,對開發(fā)者 OpenAI 處以 1500 萬歐元罰款。