教宗良十四世在周一發表的一封公開信中對人工智慧敲響了警鐘,當天晚些時候,Anthropic 聯合創始人克里斯·奧拉對此表示感謝。一位電腦科學家表示,人工智慧實際上已經產生了「令人震驚」的結果,可能應該受到控制。

在 Anthropic 網站上發布的回應中,奧盧也能夠在梵蒂岡發表該回應,他首先立即承認,包括他自己的實驗室在內的所有人工智慧實驗室的工作不僅僅是為了幫助人們。他甚至指出,這對他來說可能聽起來「很奇怪」。

他說:「包括 Anthropic 在內的每個尖端人工智慧實驗室都在一系列激勵和約束下運作,這些激勵和約束有時可能與適當的行為相衝突。」「保持商業可行性和保持研究前沿的壓力。地緣政治壓力。還有更古老、更簡單的自豪感和野心壓力。無論我們中的任何人多麼真誠地打算做正確的事情 – 我相信我們將永遠受到激勵 – 我們永遠受到這些措施的影響。

因此,奧拉認為,公開批評這些公司的責任在於其他人,例如教宗。這就是為什麼奧拉「感謝」利奧爸爸提到這項技術。

然後他解釋了人工智慧系統是如何構建的,並補充說,即使是構建它們的人也在學習、分享,“老實說:我們不斷發現令人困惑甚至令人不安的事情。”

奧拉隨後提出了三個問題,這些問題應該由其他人來解決,而不是那些創造人工智慧的人來解決。其中包括「人類繁榮的道德想像力和雄心壯志的需要」和「我們對世界窮人的責任」。

這位 Anthropic 聯合創始人沒有提出任何潛在的解決方案,但指出,由於人工智慧,父母擔心孩子的思想,而有創造力的人則擔心他們的工作。他也承認,人工智慧將導致工人失業,「支持失業者將成為歷史性的道德責任」。

「我們需要知情的批評者,他們會在我們失敗時告訴實驗室,」他總結道。 “我們需要激勵措施無法影響的道德聲音。”

來源連結