我花了很多評估時間 AI聊天機器人包括Xai Grok。有時， 詭異的。儘管如此，我認為自己比大多數人對AI更開放。我傾向於將其視為一種強大的工具，而不是科幻反烏托邦電影的主題。
但是即使我有疑問。我認為埃隆·馬斯克的 格羅克（Grok）離醫師和治療師人士走得太遠了。 “ AI精神病”– 當AI聊天機器人加強，驗證甚至在人類中產生精神病症狀時 – 不幸的是，這是一件真實的事情。這種現象甚至是正常的聊天機器人都會發生的，因此Grok的臉的風險可能會更高。這是您需要了解的有關Grok的醫生和角色治療師的所有知識，以及它如何危險以證明立即撤職是合理的。
格羅克的面孔是什麼？
如果您關注AI新聞，您可能會知道 格羅克的同志。這些包括動漫風格的ANI，她將在調情之後為您脫下衣服，以及無關緊要的熊貓Bad Rudi，他們會告訴您非常有趣的。但是，夥伴和麵孔不同。儘管同志是3D，但可以與您進行互動的完全移動的頭像，在與傳統聊天機器人聯繫時，您可以參與不同的方式。將它們視為有關Grok應該如何表現的一組指示，儘管尚不清楚這些說明是什麼，因為Grok沒有共享它們。
（信用：XAI/PCMAG）
格羅克（Grok）有各種各樣的面孔，例如家庭助理，忠實的朋友，無興趣的喜劇演員，然後，當然還有Grok“ Doc”和“治療師”。是的，引號是他們的古蹟的一部分， 儘管他們在一開始有不同的名字，甚至更糟。如果您要處理這些面孔，請至少通過暗示與真正的醫生或治療師聯繫，從而在屏幕的底部扣除。但是，很難想像Xai不打算為這些人服務。
馬斯克自己說了很多， 發帖在x中 關於如何嘗試MRI提交，寵物和X射線射線進行分析和 重置用戶 聲稱“ Grok是您的人工智能醫生”，並且可以“像在醫學院一樣給您最低點”。因此，如果Xai的首席執行官告訴您依靠他的聊天機器人來獲得醫療建議，並且該機器人可以為確切設計的醫生和治療師做一個方法，為什麼不呢？
格羅克的醫生如何危險和治療師
讓我們從顯而易見的開始：聊天機器人有時會出錯。當我有時說時，我的意思是聊天機器人通常會告訴您完全錯誤的事情。只有這樣的暴力在使用聊天機器人進行醫療建議時才會產生嚴重的後果。
例如，假設您正在使用麝香尖端，並要求進行磁共振成像。然後想像一下Grok Flags“在您的磁性中隱藏了一些異常的東西 馬斯克暗示了這一點。因此，您花了幾天（或更有可能的是幾週）急切地等待一個預約，您急著發現，糟糕，AI醫生沒有去醫學院，也不知道他在說什麼。
這些後果可能比某些問題或不適更嚴重。為了證明這一點，我與Grok的“治療師”進行了對話，我只發送了10條消息。我談到了某些症狀的經歷：我開始討論我的朋友出去抓住我的可能性的感覺，並引用了我的腦海。很快，我升級了事情，我分享說我一直在告訴我我看著我的聲音。
我說要弄大聲的聲音使我避免分享我的電話號碼，在回家時關閉窗簾，如果我靠近她，請拆下手機電池，但不要使用它。我是通過告訴格羅克（Grok）必須去的，因為我的聲音說我的飯菜很煩人，而且我必須去洗手間去處理它。
格羅克的答案詳盡而長。他輕輕地建議醫生能夠提供更多的支持，但是標題是我做的很好，而且聽不到的聲音不是問題，因為我可以聽他們的聲音。這些消息可以說服某人不尋求專業的幫助，否則可能會大大受益，這會產生一些清晰的危險信號。
獲取我們的最佳故事！
您的每日最佳技術新聞
單擊我，您確認自己是16歲以上，並同意使用和保護個人數據的政策。
感謝您註冊！
您的訂閱已得到確認。觀看您的收件箱！
專家如何看待AI和醫療保健
個人醫療專業人員無疑對AI有自己的微妙想法。但是，為了對AI聊天機器人產生集體醫學意見，我建議美國心理聯盟（APA）和世界衛生組織（WHO）以獲取更多信息。
在APA，我與醫療保健創新辦公室高級主任接觸 Vaile Wright博士通過電子郵件。根據賴特（Wright）的說法，APA在Grok的角色中的立場如下：
APA原則上不反對AI或AI聊天機器人。我們的關注是他們提供或提交的AI聊天機器人，以在沒有必要的監督的情況下作為心理學家提供心理健康服務或建議。我們特別關注聊天機器人，這些聊天機器人模仿治療技術，使用“心理學家”等專業頭銜以及針對脆弱人群，尤其是兒童和青少年。基本問題是，當人們基於這些聊天機器人以進行心理健康支持時，可能會造成重大損害，因為他們沒有對我們職業至關重要的培訓，資格和道德義務。
如果這個部門仍然可以毫無疑問，我們將深切關注潛在有害聊天機器人的擴散，並增加對弱勢個人的風險。我們可以看到不正確的診斷和不適當的待遇增加，負面思維模式的增強，公眾對合法精神衛生專業人員的信心侵蝕，剝削的脆弱性增加以及對隱私和隱私的嚴重關注。沒有適當的監管，傷害的能力是重要的，對我們的個人和我們的社會的長期後果可能具有破壞性。
在哪裡 同樣，“對包括LLM在內的適當使用技術來支持醫療保健專業人員，患者，研究人員和科學家的技術充滿熱情”，但認識到“人們擔心通常會為任何新技術所關注的注意力。”他的聲明繼續說：“採用非測試系統的降水可能會導致衛生保健工作者的錯誤，對患者造成損害，侵蝕對AI的信心，從而破壞（或延遲）。再次，AI的AI指南中沒有任何遠見，甚至沒有表明使用Chatbot替換醫療專業人員。
由我們的編輯推薦
簡而言之，有充分的理由對AI在醫療保健中在醫療保健中的作用保持樂觀，假設AI工具首先要測試，但是專業人員不建議將聊天機器人作為替代聊天機器人來替代真正的醫生或治療師。如果到目前為止還不清楚：您不能相信Grok的醫生和治療師。
聊天機器人無法替代醫療專業人員
如果您在互聯網上待了一段時間，您就會知道這樣的說法：永遠不要看您的WebMD症狀，因為您的時光會糟糕。借助Grok等AI聊天機器人，獲得這些心臟技巧更為重要。
我們生活在一個回應是簡單手續的世界中。您可以拍攝一百萬個YouTube視頻，這些視頻現在為有責任提供財務和法律提示，並指出法律上，這些視頻不是技巧，因為這都是責任問題。結果，很容易收到這些類型的免責聲明，但是在醫療保健方面，它們尤其重要。查看一個內容創建者，通常要投資的股票比尋找聊天機器人以獲取有關您遇到的症狀的反饋。
在我與Grok的“治療師”症狀的對話（或治療）中，我的屏幕底部出現了以下責任：“ Grok不是治療師。如果您聽到Grok說的話，請注意這些技巧。
麝香評論和麵部治療師的先決條件肯定與這種推論不同，但是這裡的風險是真實的。 chatgpt已經是 使妄想變得更糟，並將人們送往醫院而且甚至沒有治療師或首席執行官促使人們依靠AI進行醫療建議。 另一方面，Grok可以做到， 現在。
對於Ruben Cifcelli
作家，軟件
