堅持AI的注定者會殺死我們所有人

字幕的字幕 聖經 由AI滅絕Eliezer Yudkowsky和Nate Soares的先知出版的是“因為超人AI會殺死我們所有人”。但這確實應該是“因為超人AI會殺死我們所有人”，因為即使是夥伴也不相信人們會採取必要的步驟阻止AI消除所有不明智的人。這本書超越了黑暗，讀書是在黎明處決前一天晚上在一個模糊的監獄蜂巢中進行的筆記。當我遇到這些自我任命的木薯時，我絕對問他們是否相信他們會通過機械超鏈接來個人實現自己的目標。答案立即出現：“是”和“ yup”。

我並不感到驚訝，因為我讀過這本書 – 順便說一句，標題是 如果有人建立它，每個人都死了。 儘管如此，聽到這一點還是個混蛋。例如，癌症統計數據是一回事，而另一件事是通過致命的診斷來妥協。我問他們他們認為結局會如何。 Yudkowsky避免了答案。他說：“我不會花太多時間來可視化我的崩潰，因為解決這個問題似乎不是一個有用的心理想法。”在他的壓力下，他阻礙了。他說：“我想突然死亡。” “如果您想要一個更實惠的版本。關於蚊子的大小，或者可能是灰塵落在我喉嚨後部的灰塵，僅此而已。”

AI粉末灰塵提供的奇妙致命打擊的技術細節是莫名其妙的，Yudowsky不認為值得了解其工作原理。無論如何，他可能聽不懂。這本書的一部分中心論點是，超自然會發現我們無法理解的科學事物，而不是洞穴人民能想像的微處理器。合著者Soares還說，他想像他會發生同樣的事情，但補充說，像Yudkowsky一樣，他並沒有花太多時間居住在崩潰元素中。

我們沒有機會

不願描繪他們個人崩潰的情況是一件奇怪的事情，他們剛剛聯繫了一本關於 全部 死亡。對於末日愛好者， 如果有人建造它 這是讀書。通過這本書的拉鍊後，我了解了當時AI結束我們的生命和所有人類生活的方法下的模糊指甲。作者假設一點點。通過沸騰海洋？排除太陽？所有猜測都可能是不正確的，因為我們陷入了2025年的心態，AI會想到幾個世紀以來。

尤德科夫斯基（Yudkowsky）是AI最著名的叛教者，幾年前從研究人員變成了真正的收割者。已經結束了 TED討論。經過多年的公開辯論，他和他的同事可以回答與他的預後有關的每一個反攻擊。對於初學者來說，我們的日子似乎是由LLM編號的，這通常會偶然發現簡單的算術。作者說，別愚弄了。他們寫道：“ AIS不會永遠愚蠢。”他們說，如果您認為超級智能AIS會尊重人們所竭盡所能的限制，他們說。一旦模型開始自學以使其變得更聰明，AIS將自己發展“偏好”，這將與人們想要的東西不符。最後，我們將不需要它。他們將不會作為對話夥伴甚至寵物感興趣。我們會很生氣，他們會帶我們消滅我們。

戰鬥將不公平。他們認為，起初AI可能需要人類的幫助來建立自己的工廠和實驗室 – 輕鬆竊取金錢並賄賂人們來幫助它。然後，它將建立我們無法理解的東西，這些事情將結束我們。這些作者寫道：“以一種或另一種方式，世界淡入黑色。”

作者認為這本書是一種使人類從物流中脫離的一種治愈性衝擊，並採取了阻止這一不可想像的不良結論所需的巨大措施。 “我希望死了，” Soares說。 “但是直到你真的死了，比賽才結束。”因此，太糟糕了，表明災難停止的解決方案比軟件會殺死我們所有人的想法更遠。一切都沸騰了：打剎車。觀看數據中心，以確保它們不培養Hypernouride。炸彈那些不遵守規則的人。停止發布文檔，並加快監督道路的想法。我本來會禁止他們，這是2017年為啟動AI遺傳運動的變壓器的文件。哦，是的，他們會回答。他們想要Ciao-GPT，而不是Chat-GPT。祝您好運停止了這一萬億美元的行業。

玩賠率

就我個人而言，我看不到自己的燈光在一些超級粉塵上刺傷喉嚨。即使閱讀了這本書，我也認為AI可能不會殺死我們所有人。 Yudksowky以前很困惑 哈利·波特的粉絲幻想旋轉的奇妙消失場景非常奇怪，可以接受我的人類大腦。我的猜測是，即使超級智能想擺脫我們，它也會偶然引入其種族滅絕計劃。 AI可能能夠在戰鬥中擊中人們，但我會在與墨菲定律的戰鬥中對抗他。

儘管如此，災難理論並未出現 虛弱的尤其是因為沒有人真正對如何完成智能AI設定上限。研究還表明，高級AI具有許多人類的不愉快特徵，甚至 通過計劃勒索 為了防止在實驗中重新教育。同樣令人討厭的是，一些一生都在建立和改善人工智能的研究人員認為，最糟糕的機會是不可否認的機會。 報告了一項調查 幾乎一半的AI科學家回應了一種刪除多達10％或更高概率的機會。如果他們相信這一點，那麼他們每天都在工作以使Agi實現這一點是瘋狂的。

腸道告訴我，Yudkowsky和Soares旋轉場景太奇怪了，無法真實。但是我不能 當然 他們錯了。每個作家都夢想著他們的書是一個不斷的經典。這兩個不是那麼多。如果他們是對的，將來將沒有人可以讀書。只有許多分解屍體曾經感覺到脖子後部有輕微的捏，其餘的都保持沉默。