加利福尼亞法案將規範AI伴侶聊天機器人即將成為法律

加利福尼亞州議會在周三晚上朝著AI法規邁出了重要一步 SB 243 – 一項規範AI伴侶聊天機器人以保護未成年人和弱勢用戶的法案。該立法已在外交支持下進行了投票，現在正前往該州參議院在周五進行最終投票。

如果州長加文·紐瑟姆（Gavin Newsom）簽署了法案，該法案將於2026年1月1日生效，這使得加利福尼亞州成為第一個要求AI Chatbot運營商為AI同志應用安全協議的州，並在他們的聊天機器人不這樣做的情況下對公司負責。

該法案專門旨在防止聊天機器人的同志，該法律定義了AI系統，這些AI系統提供了適應性，人類的反應，並能夠滿足參與自我毀滅，自我傷害或性內容的談判的用戶的社會需求。該法案將要求平台向用戶提供重複的警報 – 每三個小時為未成年人提供一次，並提醒他們他們正在與AI聊天機器人交談，而不是真實的人，應該休息一下。它還為提供聊天機器人（包括重要OpenAi Player.ai和deplika）的公司的AI公司創建了年度參考和透明度要求。

加利福尼亞法案還將允許那些認為他們因違反尋求停職，賠償金（每次違規最多$ 1,000）和律師費的AI公司的管道而受到傷害的人。

由州參議員史蒂夫·帕迪拉（Steve Padilla）和喬什·貝克爾（Josh Becker）於1月推出的SB 243將於週五前往州參議院進行最後的投票。如果獲得批准，將簽署法律的州長加文·紐瑟姆（Gavin Newsom），其新規則將於2026年1月1日有效，並從2027年7月1日起有參考要求。

少年亞當·雷恩（Adam Raine）去世後，該法案在加利福尼亞州的立法機構中獲得了動態，後者在與Openai Chatgpt進行了長時間的對話後自殺，其中包括對他的死亡和自我傷害的討論和計劃。該立法還響應了洩漏的內部文件，據報導，據報導，元機器人能夠與兒童參加“浪漫”和“感性”的對話。

最近幾週，美國立法者和監管機構對AI平台進行了加強檢查以保護未成年人。這 聯邦委員會 準備探索AI聊天機器人如何影響兒童的心理健康。德克薩斯州檢察長肯·帕克斯頓（Ken Paxton）已開始進行元調查和角色調查，指責他們誤導了心理健康主張的兒童。同時，參議員喬什·霍利（R-MO）和 參議員埃德·馬基（Ed Markey） （D-MA）已啟動單獨的元檢測器。

帕迪拉告訴TechCrunch：“我認為損害可能很大，這意味著我們必須迅速移動。” “我們可以放置邏輯保障措施，以確保未成年人知道他們不會與真正的人說話，這些平台在人們對受到傷害或困難時說的話說話時，將人們鏈接到正確的資源，以確保沒有。

帕迪拉（Padilla）還強調了AI公司的重要性，這些公司每年都在危機服務中參考用戶的次數，“因此，我們對這個問題的頻率有了更好的了解，而不僅僅是當一個人受傷或更糟時。”

SB 243以前的需求更強，但許多人克服了修改。例如，該法案最初需要剝削機構防止AI聊天機器人使用常規“可變獎勵”或其他鼓勵過度承諾的功能。這些策略是由AI Companion公司（例如Replika and Charice）使用的，為用戶提供了特殊消息，記憶，故事或解鎖稀有答案或新個性的能力，從而創造了批評家所說的潛在上癮的獎勵循環。

當前的法案還取消了需要運營商監視和報告聊天機器人自殺理想討論或與用戶行動的頻率的規定。

貝克爾告訴TechCrunch：“我認為，在不施加不可能遵守的事情的情況下，遭受損失的損害達到了適當的平衡。

SB 243正在矽谷公司損失數百萬美元的政治行動委員會，以支持即將舉行的中級選舉中的候選人，這是在偏愛AI燈軸方法的情況下，邁向法律。

該法案還出現在加利福尼亞州重量AI安全法案（SB 53），這將決定總體透明度參考要求。 Openai已向Newsom州長寫了一封公開信，要求他放棄該法案，以支持不太嚴格的聯邦和國際框架。 Meta，Google和Amazon等大型技術公司也反對SB 53。相反，只有人類說他支持SB 53。

帕迪拉說：“我拒絕這樣的條件是零局勢，創新和法規是相互獨家的。” “不要告訴我我們不能走路和咀嚼口香糖。我們可以支持我們認為健康並且有好處的創新和發展 – 對這項技術有好處，與此同時，我們可以為最脆弱的人提供合理的保障措施。”

TechCrunch到達Openai，人類，元，角色AI和Replika發表評論。