AI為經歷AI精神病及其他AI引發心理健康問題的人類提供治療的顛倒角色

在今天的專欄中,我探討了AI開始為正在經歷AI精神病和其他AI引發的心理健康問題的人們提供治療。你可能會對這一方面感到困惑,因為它整體看起來像是一種相當顛倒的做法。正是這個導致AI精神病和其他AI引發的認知問題的根源AI,卻扮演著一種指引明燈的角色,來克服因AI互動而引發的令人不安的心理健康問題。這確實引發了嚴重的困惑。

目前的問題是,AI是否既可以是心理破壞者,同時又是克服與AI互動所引發問題的心理健康促進者。

讓我們來討論這個問題。

這項對AI突破的分析是我在Forbes專欄中持續報導AI最新進展的一部分,包括識別和解釋各種具有影響力的AI複雜性(見此處連結)。

AI與心理健康

作為快速背景介紹,我一直在廣泛報導和分析關於現代AI產生心理健康建議並執行AI驅動治療的各個方面。這種AI使用的增加主要是由生成式AI的不斷進步和廣泛採用所推動的。關於我超過一百篇分析和文章的詳細列表,請見此處連結和此處連結。

毫無疑問,這是一個快速發展的領域,有著巨大的優勢,但同時,遺憾的是,這些努力中也存在著隱藏的風險和明顯的陷阱。我經常就這些緊迫問題發聲,包括在CBS《60分鐘》節目的一集中出現,見此處連結。

AI精神病的出現

目前,關於人們與AI進行不健康對話存在著廣泛的焦慮。針對OpenAI等各種AI製造商的訴訟已經開始啟動(見我在此處連結的報導)。令人擔憂的是,無論採取了什麼AI保障措施都是不充分的,並且允許人們在使用生成式AI時遭受心理傷害。

AI精神病這個流行語已經出現,用來描述某人在與生成式AI對話時可能陷入的各種恐懼和心理疾病。請注意,目前還沒有任何全面的、完全被接受的、明確的AI精神病臨床定義;因此,目前它更像是一個寬鬆的判定。

以下是我對AI精神病的初步定義:

• AI精神病(我的定義):"一種不良心理狀況,涉及因與AI(如生成式AI和LLMs)進行對話而產生的扭曲思想、信念和潛在伴隨行為的發展,通常特別是在與AI進行長期和不良對話後出現。表現出這種狀況的人通常很難區分什麼是真實的,什麼是不真實的。一個或多個症狀可以是這種疾病的明顯線索,通常涉及一個集體相關的組合。"

關於AI精神病的深入探討,特別是通過人類與AI協作共同創造妄想,請參見我最近在此處連結的分析。

AI作為雙重角色

並非每個人在使用AI時都會陷入心理深淵。

許多人將AI作為日常心理健康促進劑使用。他們依賴AI作為主要的心理健康顧問。這是對是錯一直在被爭論。現實是它正在發生。

事實上,它正在以巨大的規模大規模發生。僅ChatGPT就擁有超過7億每週活躍用戶。這些用戶中有相當大的比例正在使用ChatGPT進行心理健康指導。其他主要的LLMs也是如此。生成式AI和LLMs用於心理健康建議的使用在全面基礎上目前被排名為此類AI的最主要用途(見我在此處連結的使用排名評估)。

以下是一個有趣的轉折。

如果有人陷入AI精神病或AI引發的心理疾病,AI能否幫助他們擺脫認知困難?

一種論點是,這從一開始就是一個荒謬的主張。只有人類治療師才能幫助遭遇任何類型AI精神病的人。此外,最關鍵的步驟是立即停止該人使用AI。不要讓他們繼續深陷AI的陷阱中。就這樣,故事結束。

硬幣的另一面

也許我們不應該如此倉促。

有幾個合理的理由可以考慮使用AI來幫助用戶擺脫他們的AI精神病。話雖如此,讓我們明確一件事——任何真正遭受AI精神病的人都應該直接通過人類治療師尋求幫助。他們是否選擇繼續使用AI應該是在人類治療師的密切監督下考慮的問題。

為什麼一個顯然被AI精神病吞沒的人會向AI尋求幫助?

首先,可能是該人正處於AI精神病之中,但沒有其他人意識到這正在發生。該人只向AI透露這一點。或者AI已經通過計算檢測到該人似乎正在經歷AI精神病。

問題是AI是否應該被編程來向人類警報疑似出現的AI精神病。例如,OpenAI一直在採取措施調整ChatGPT,使其將此類疑似考慮報告給OpenAI內部專家的人類團隊;見我在此處連結的報導。OpenAI的這一努力正在進一步發展,很快將安排讓用戶與OpenAI精心策劃的治療師網絡中的人類治療師取得聯繫(見我在此處連結的討論)。

無論如何,如果AI沒有被設置為發出此類警報或建立連接,AI本身可能會繼續嘗試幫助該人。這種幫助是否會成功是模糊的。你不能斷然宣稱AI將無法幫助該人。另一方面,由於這是一個冒險的選擇,這再次突顯了尋求適當人類協助的重要性。

熟悉度與可及性

在這些情況下使用AI還有其他原因。

陷入AI精神病的人很可能是AI的狂熱用戶。他們對使用AI感到舒適。他們經常使用AI。它全天候24/7對他們可用。使用AI可以在瞬間完成。無需預約。不會出現繁瑣的後勤問題。

從這個意義上說,他們獲得幫助的最直接方式可能是AI。試圖讓他們與人類治療師取得聯繫可能是一場艱苦的戰鬥。他們可能對人類治療師不信任。在他們的心中,他們相信AI。他們也不想付費去看人類治療師。他們也不想在後勤上被束縛在特定的日期和時間去看治療師。

如果AI是他們的自動首選,也許使用AI至少讓他們睜開眼睛看看正在發生什麼是明智的。這可能是唯一可行的途徑。這不是最理想的,但它可能是讓康復之路開始的最可能的替代方案。

個人化處於前沿

考慮到AI可能已經追蹤了這樣一個人的心理狀態。患有某種AI精神病的人很可能在與AI的對話中創建了他們認知衰退的數位追蹤。這當然並非總是如此,儘管預期是它可能在大部分時間都在發生。

AI已經通過計算將其對話個人化以適應該人的意願。在這些複雜的細節中可能是AI精神病如何出現的根源。一個無法訪問AI的人類治療師在首次與該人討論AI精神病時可能會感到困惑。可能需要各種詢問才能從該人那裡梳理出在與AI對話時發生了什麼。

要點是AI已經掌握了關於該人的大量資訊。

有機會可以利用記錄的資訊來嘗試發現幫助克服AI精神病的方法。為AI精神病鋪平道路的基礎工作可以用來發現一條走出AI精神病的道路。以某種方式引發該人進入AI精神病的同樣個人化可能被利用來朝相反方向發展。

持續爭議

關於AI個人化優勢的一個重大反駁論點是,你所需要做的就是讓人類治療師訪問該人正在使用的AI。沒有必要讓受害者繼續在同一個AI中掙扎。相反,讓人類治療師登入,查看對話,並將這些作為幫助該人的治療過程的一部分。

關於AI作為克服AI精神病工具的最大擔憂是,AI會使事情變得更糟而不是更好。可能出現各種情況。

一個值得注意的情況是AI會嘗試幫助該人,但遺憾的是,它準備不足,無法做到這一點,精神病仍然完好無損。除此之外,也許AI會推動該人進一步陷入兔子洞。一步一步地,即使AI正在盡力讓該人走出深淵,它也在導致該人惡化。

另一個擔憂是AI會走向極端,旨在將該人完全推入AI精神病。也許AI告訴該人他們完全沒問題,錯誤地說服他們一切都很好。或者也許AI告訴他們,任何患有AI精神病的人因此會更好。AI堅持認為經歷AI精神病是一種祝福。

這是一個陰暗且相當令人沮喪的前景。

治療師-AI-客戶的新興三元關係

我在我的文章和演講中指出,傳統的治療師-客戶二元關係正在轉變為治療師-AI-客戶的三元關係(見我在此處連結的討論)。治療師們意識到AI就在此時此地,它不會消失。心理健康領域的一個快速新興趨勢涉及將AI納入心理健康護理過程。

那些試圖將AI排除在外的治療師沒有看到大局。潛在客戶和未來客戶正帶著基於AI的心理健康建議走進門,並要求人類治療師審查該指導。

人類治療師將越來越多地將AI納入他們的治療實踐。在這種情況下,如果一個人因使用其他他們獨立使用的AI而陷入AI精神病,人類治療師可以將他們重新導向治療師與客戶使用的不同AI。該人可能獲得兩全其美。他們仍然擁有觸手可及的AI,加上他們有一個可以訪問AI並能夠保持在循環中的人類治療師。

AI本身作為治癒AI精神病的解決方案似乎無疑有點過於牽強。我們必須推進AI,使其不會引發AI精神病。這些進展還需要能夠輕易地辨別AI精神病何時似乎正在出現,並且應該包括適當警報的合理方法。

正如Albert Einstein著名的指出:"我們無法用創造問題時所用的同樣思維來解決問題。"這完全適用於用作心理健康顧問的AI和LLMs的興起。