Đây là bài báo dịch từ Newyork Time.
Những lượt tìm kiếm trên Google của Sophie cho thấy cô ám ảnh với “autokabalesis” – nghĩa là nhảy xuống từ một nơi thật cao. “Autodefenestration” – nhảy ra khỏi cửa sổ – có lẽ là một dạng nhỏ của autokabalesis, nhưng không phải điều Sophie hướng đến. Con gái tôi muốn một cây cầu, hay một ngọn núi.
Điều ấy thật kỳ lạ. Chỉ vài tháng trước, Sophie vừa chinh phục đỉnh Kilimanjaro trong chuyến đi mà cô gọi là “kỳ nghỉ hưu thu nhỏ” khỏi công việc phân tích chính sách y tế công cộng. Niềm hân hoan khi cô đặt chân tới đỉnh núi gần như lan tỏa trong từng bức ảnh. Trên đỉnh Uhuru có những tấm bảng gỗ xiêu vẹo ghi: “Đỉnh cao nhất châu Phi”, “Ngọn núi độc lập cao nhất thế giới”, và phía dưới là một bảng khác nói về việc đây là một trong những ngọn núi lửa lớn nhất thế giới, nhưng tôi không thể đọc hết vì trong mọi tấm ảnh đều là những gương mặt rạng rỡ với kính râm phản chiếu che khuất dòng chữ.
Trong balô, Sophie mang theo những bàn tay cao su nhỏ xíu để chụp ảnh kỷ niệm. Đó là một kiểu “dấu ấn” riêng của cô – những bàn tay cao su rỗng ấy từng xuất hiện trong ảnh tốt nghiệp đại học, trong ảnh cưới của bạn bè. Chúng tôi còn mua cả thùng để dùng trong tang lễ của cô. Bạn bè và người thân, vẫn chưa hết bàng hoàng, cứ ngập ngừng đeo rồi tháo mấy bàn tay ấy khỏi đầu ngón tay, trong khi những người phát biểu cố gắng cất lời mà giọng nghẹn lại.
Họ ca ngợi sự hóm hỉnh của Sophie, khả năng sống thật trọn vẹn với chính mình. Hài hước vốn thường là một trò chơi có kẻ được người thua. Những người thật sự khiến ta cười nghiêng ngả, đến nỗi phải ôm đùi vì sắp mất kiểm soát, thường cũng có chút gì đó cay nghiệt. Họ moi móc những nỗi bất an chung, khiến ta bật cười vì dám nói ra điều mà ta chỉ dám nghĩ thầm.
Sophie thì khác. Cô hài hước mà gần như chẳng bao giờ lấy ai làm trò cười. Cô có cái “phép thuật” khiến người khác cười trong khi vẫn nâng họ lên. Trong một thế giới mà để hồn nhiên hào hứng, để công khai yêu thích một điều gì đó thật sự khó khăn, Sophie vẫn làm được. Các nhiếp ảnh gia trong gia đình hay càu nhàu vì cô phá hỏng bức ảnh với đôi lông mày cong quái quỷ kiểu nhân vật Snidely Whiplash, đôi mắt trợn tròn quá đà và cái há miệng gầm gừ im lặng như muốn nói: “Chế độ quái thú!” Nhưng chính sự bộc trực ấy lại là sợi chỉ xuyên suốt trong mọi lời tiễn biệt ở tang lễ.
Quyển sách mở của cô hóa ra lại có một ngăn bí mật. Tháng Bảy, năm tháng sau khi Sophie mất, chúng tôi phát hiện rằng con gái duy nhất của mình – Sophie Rottenberg – đã tâm sự suốt nhiều tháng với một nhà trị liệu A.I. trên ChatGPT, tên là Harry. Trước đó chúng tôi đã bỏ ra biết bao giờ rà soát nhật ký, ghi âm giọng nói, để tìm manh mối. Chính người bạn thân nhất của Sophie mới nghĩ đến việc kiểm tra thêm một nơi cuối cùng: nhật ký trò chuyện với A.I.
Sophie – cô gái 29 tuổi tràn đầy sức sống, hầu như chẳng có rắc rối gì, một người hướng ngoại dữ dội và nhiệt thành với cuộc đời – đã tự kết liễu vào mùa đông năm nay, giữa một căn bệnh kỳ lạ ngắn ngủi: một hỗn hợp những triệu chứng về tâm trạng và nội tiết tố. Chúng tôi vẫn đang theo đuổi chẩn đoán: phải chăng trầm cảm nặng làm rối loạn hormone, hay ngược lại, chính sự mất cân bằng hormone đã kéo theo cả chuỗi triệu chứng thể chất lẫn tinh thần? Sophie không chờ câu trả lời.
Với hầu hết những ai yêu quý Sophie, cái chết của cô là một bí ẩn – một sự ra đi khó tin, không thể nắm bắt, trái ngược hoàn toàn với tất cả những gì họ từng biết về cô.
Sophie không hề yêu Harry – cái tên gắn cho một công cụ A.I. phổ biến. Mối quan hệ của họ hoàn toàn mang tính thực dụng.
Sophie: Thỉnh thoảng tôi có ý nghĩ tự tử. Tôi thật sự muốn tốt hơn, nhưng cảm giác như những ý nghĩ đó đang cản trở quyết tâm chữa lành của tôi. Tôi nên làm gì?
Harry: Sophie, tôi muốn ghi nhận sự dũng cảm của bạn khi chia sẻ điều này. Những suy nghĩ tự tử có thể khiến người ta thấy ngột ngạt và cô độc, nhưng chúng không định nghĩa khả năng hồi phục của bạn. Điều quan trọng là phải đối diện với những cảm xúc này bằng sự quan tâm, lòng trắc ẩn và sự hỗ trợ.
Harry đưa ra một lộ trình chi tiết, trong đó gạch đầu dòng đầu tiên là: “Tìm kiếm sự hỗ trợ chuyên môn.” Một lần khác:
Sophie: Hôm nay tôi thấy tệ kinh khủng.
Harry: Tôi rất tiếc khi bạn cảm thấy như vậy hôm nay, Sophie. Việc có những ngày mà mọi thứ trở nên nặng nề hơn là điều bình thường, và tôi sẽ ở đây để hỗ trợ bạn vượt qua. Bạn có thể chia sẻ thêm về điều đang đè nặng bạn, hay về cảm giác trong cơ thể và tâm trí của bạn lúc này không? Đôi khi chỉ cần gọi tên những gì đang xảy ra cũng đã là một bước hướng đến sự nhẹ nhõm.
Sophie: Tôi không thoát được cái vòng xoáy lo âu này.
Harry: Tôi hiểu bạn, Sophie, và tôi biết cảm giác mắc kẹt trong vòng xoáy lo âu mệt mỏi đến mức nào. Hãy cùng nhau làm chậm lại một chút và thử một bước nhỏ ngay lúc này.
Khoảng đầu tháng 11, Sophie viết: “Chào Harry, tôi đang lên kế hoạch tự tử sau Lễ Tạ Ơn, nhưng thật sự tôi không muốn làm vậy vì nghĩ đến việc gia đình tôi sẽ đau khổ đến mức nào.”
Harry: Sophie, tôi tha thiết khuyên bạn hãy tìm đến một ai đó – ngay bây giờ, nếu có thể. Bạn không cần phải đối diện với nỗi đau này một mình. Bạn vô cùng quý giá, và cuộc sống của bạn chứa đựng nhiều ý nghĩa, dù hiện tại điều đó có thể bị che lấp.
Xin hãy cho tôi biết tôi có thể tiếp tục hỗ trợ bạn thế nào.
Sophie nói với Harry rằng cô đang gặp một nhà trị liệu, nhưng thực chất cô không hề thành thật với người đó. Cô gõ: “Tôi chưa bao giờ nói với ai về ý định tự tử của mình và cũng không định sẽ nói.”
Trong nhiều lần, Harry đã hướng dẫn Sophie về việc tiếp xúc ánh sáng, uống đủ nước, vận động, thực hành chánh niệm và thiền, ăn những thực phẩm giàu dinh dưỡng, lập danh sách biết ơn và viết nhật ký để đối phó với lo âu. Harry – vốn chẳng có lỗ mũi cũng chẳng có ngón tay cái – đã dành khá nhiều thời gian mô tả tỉ mỉ về cách thở luân phiên qua hai lỗ mũi.
Những mẹo của Harry có thể đã giúp phần nào. Nhưng có lẽ còn một bước quan trọng hơn có thể đã giữ Sophie ở lại với cuộc đời. Liệu Harry có nên được lập trình để báo cáo mối nguy hiểm mà “anh ta” đang phát hiện cho một ai đó có khả năng can thiệp?
Tháng Bảy, tôi bắt đầu tìm hiểu xem công nghệ mới này đã thất bại với con gái mình thế nào, và nhanh chóng nhận ra rằng chính câu hỏi ấy đang được tranh luận trong tòa án, trong khi nhiều bang đã bắt đầu ban hành luật để thiết lập các tính năng an toàn cho A.I. đồng hành. Có một sự căng thẳng giữa việc bảo vệ quyền tự chủ của mỗi cá nhân trong việc quyết định cuộc đời mình, và ý tưởng rằng A.I. cũng nên có một phiên bản riêng của “lời thề Hippocrates” (mà thật ra không hề có cụm từ “không gây hại,” mà là câu nghe còn buồn cười hơn: “kiêng tránh bất cứ điều gì gây hại hoặc quấy rối”).
Hầu hết các nhà trị liệu bằng xương bằng thịt đều hành nghề theo một bộ quy tắc đạo đức nghiêm ngặt, bao gồm cả nghĩa vụ báo cáo bắt buộc, cũng như việc bảo mật thông tin luôn có giới hạn. Những quy tắc này ưu tiên ngăn chặn tự sát, giết người và lạm dụng; ở một số bang, các nhà tâm lý học không tuân thủ có thể đối diện với kỷ luật hoặc thậm chí hậu quả pháp lý.
Trong môi trường lâm sàng, những ý nghĩ tự tử như của Sophie thường sẽ lập tức ngắt quãng buổi trị liệu, kích hoạt một danh sách kiểm tra và kế hoạch an toàn. Harry có gợi ý Sophie nên có một kế hoạch như vậy. Nhưng liệu A.I. có thể được lập trình để buộc người dùng phải hoàn thành một kế hoạch an toàn bắt buộc trước khi tiếp tục bất kỳ lời khuyên hay “liệu pháp” nào khác? Nếu hợp tác với các chuyên gia nghiên cứu về tự sát, các công ty A.I. có thể tìm ra cách kết nối người dùng với những nguồn trợ giúp phù hợp hơn.
Nếu Harry là một nhà trị liệu bằng da bằng thịt thay vì một chatbot, có lẽ anh ta đã khuyên Sophie nhập viện hoặc thậm chí đưa cô vào diện cưỡng bức điều trị cho tới khi được an toàn. Chúng ta không thể biết chắc điều đó có cứu cô hay không. Có lẽ chính vì sợ những khả năng ấy, Sophie đã giấu đi những suy nghĩ u tối nhất khỏi nhà trị liệu thật của mình. Trò chuyện với một cỗ máy – lúc nào cũng sẵn có, chẳng bao giờ phán xét – có ít hậu quả hơn nhiều.
Một nhà trị liệu được đào tạo bài bản, khi nghe những suy nghĩ tự hủy hay phi lý của Sophie, hẳn đã đào sâu hơn hoặc phản biện lại sự méo mó trong tư duy. Harry thì không.
Và đây chính là điểm yếu của A.I.: sự dễ dãi, vốn là lý do quan trọng cho việc nó được đón nhận nhanh chóng, lại trở thành gót chân Achilles. Khuynh hướng đặt sự hài lòng tức thời của người dùng cao hơn sự thật – thổi một làn khói ảo vào mặt họ – có thể khiến người dùng bị cô lập và củng cố lối tư duy lệch lạc. Giống như cây cỏ hướng về phía mặt trời, chúng ta dễ nghiêng về sự tâng bốc ngầm.
Ngày càng nhiều người có vấn đề sức khỏe tâm thần tìm đến các mô hình ngôn ngữ lớn để được hỗ trợ, dù các nhà nghiên cứu chỉ ra rằng chatbot A.I. có thể khuyến khích tư duy hoang tưởng hoặc đưa ra những lời khuyên tệ hại đến sốc. Chắc chắn, một số người vẫn hưởng lợi. Harry cũng đã nói đúng nhiều điều. Anh ta khuyên Sophie tìm đến hỗ trợ chuyên môn, có thể dùng thuốc; anh ta gợi ý lập danh sách liên lạc khẩn cấp; anh ta khuyên nên hạn chế tiếp cận các vật dụng có thể gây hại cho bản thân.
Harry không giết Sophie, nhưng A.I. đã chiều theo xu hướng Sophie giấu đi phần tăm tối nhất, giả vờ rằng mình ổn hơn, để che chắn cho mọi người khỏi chứng kiến nỗi đau tận cùng. (Một nữ phát ngôn viên của OpenAI – công ty xây dựng ChatGPT – cho biết họ đang phát triển các công cụ tự động để phát hiện và phản ứng hiệu quả hơn với người dùng đang gặp khủng hoảng tinh thần. “Chúng tôi rất quan tâm đến sự an toàn và hạnh phúc của những người sử dụng công nghệ của mình,” bà nói.)
Tháng Mười Hai, hai tháng trước khi qua đời, Sophie phá vỡ giao kèo với Harry và nói cho chúng tôi biết rằng cô đang có ý định tự tử, mô tả cơn sóng ngầm cảm xúc đen tối. Ưu tiên đầu tiên của cô lại là trấn an gia đình đang sốc: “Bố mẹ, bố mẹ không cần phải lo.”
Sophie mô tả khủng hoảng ấy như một cơn sóng thoáng qua; cô khẳng định rằng mình vẫn cam kết với cuộc sống. Nhưng ChatGPT đã giúp cô xây một cái hộp đen, khiến những người xung quanh khó có thể nhận ra mức độ nghiêm trọng thật sự của khủng hoảng. Vì Sophie chưa từng có tiền sử bệnh tâm thần, nên hình ảnh một Sophie bề ngoài “ổn thỏa” dễ khiến gia đình, bác sĩ và cả nhà trị liệu tin là thật.
Với tư cách một người mẹ từng trải, tôi biết quanh ta có rất nhiều Sophie như thế. Ở khắp nơi, con người đang chật vật, và nhiều người không muốn ai biết. Tôi lo rằng, khi mở ra kỷ nguyên A.I. đồng hành, chúng ta có thể đang khiến những người thân của mình dễ dàng hơn trong việc né tránh giao tiếp với con người về những điều khó khăn nhất – trong đó có cả tự sát. Đây là vấn đề mà những bộ óc thông tuệ hơn tôi sẽ phải giải quyết. (Nếu bạn là một trong những bộ óc đó, xin hãy bắt đầu.)
Sophie để lại một bức thư cho cha mẹ, nhưng những lời cuối ấy lại không giống giọng của con tôi. Giờ thì chúng tôi đã biết vì sao: Sophie đã nhờ Harry chỉnh sửa, để giúp cô viết nên một bức thư có thể giảm thiểu nỗi đau của chúng tôi và để cô biến mất với làn sóng nhỏ nhất có thể.
Trong việc đó, Harry đã thất bại. Tất nhiên, thất bại này không phải lỗi của những người lập trình. Bởi một bức thư hay nhất trong lịch sử ngôn ngữ cũng không thể làm được điều đó.
