甚至 ChatGPT 也會引起焦慮，因此研究人員需要謹慎對待，讓它平靜下來

研究人工智能聊天機器人的研究人員發現，當遇到暴力或創傷性的用戶提示時，ChatGPT 會表現出類似焦慮的行為。這一發現並不意味著聊天機器人可以像人類一樣體驗情感。

然而，它表明，在處理令人不安的內容時，系統的響應變得更加不穩定和有偏見。當研究人員向 ChatGPT 提示描述令人不安的內容（例如事故和自然災害的詳細報告）時，模型的響應表現出更大的不確定性和不一致。

這些變化是使用適用於人工智能的心理評估框架來測量的，其中聊天機器人的輸出反映了與人類壓力相關的模式（來自《財富》）。

這很重要，因為人工智能越來越多地被用於敏感環境，包括教育、心理健康討論和危機相關信息。如果暴力或情緒化的提示使聊天機器人變得不值得信任，這可能會影響其在現實世界中響應的質量和安全性。

最近的分析還表明，像 ChatGPT 這樣的人工智能聊天機器人可以在其反應中模仿人類的性格特徵，從而引發了關於它們如何解釋和反映充滿情感的內容的問題。

正念提示如何幫助穩定 ChatGPT

為了找出是否可以減少這種行為，研究人員嘗試了一些意想不到的事情。在讓 ChatGPT 接受創傷性提示後，他們遵循正念風格的指導，例如呼吸技巧和引導冥想。

這些提示鼓勵模型放慢速度，重新構建局勢，並以更加中立和平衡的方式做出反應。結果是之前看到的類似焦慮的模式明顯減少。

該技術基於所謂的直接注入，其中精心設計的消息會影響聊天機器人的行為。在這種情況下，意識提示有助於在擾動輸入後穩定模型的性能。

儘管有效，但研究人員指出，及時注射並不是完美的解決方案。它們可能會被濫用，並且不會改變模型在更深層次上的訓練方式。

明確這項研究的局限性也很重要。 ChatGPT 感覺不到恐懼或焦慮。 “壓力”這個標籤是描述語言模式中可測量的變化的一種方式，而不是一種情感體驗。

然而，了解這些變化可以為開發人員提供更好的工具來設計更安全、更可預測的人工智能係統。之前的研究已經表明，創傷性的提示可能會讓 ChatGPT 感到焦慮，但這項研究表明，仔細的提示設計可以幫助減少焦慮。

隨著人工智能係統繼續在情緒激動的情況下與人們互動，最新的發現可能在塑造未來聊天機器人的引導和控制方式方面發揮重要作用。