當螢幕裡只有絕望：一名英國少女如何被「演算法殺死」？

• facebook

2017年11月，一名14歲的英國少女茉莉（Molly Russell）在家中自殺身亡。茉莉的父母難過且震驚不已，他們回溯，責怪自己是否忽略了茉莉的求救訊號？是否沒有察覺到茉莉的情緒變化？他們事後在茉莉的手機裡發現可能導致茉莉輕生的線索：自殺前的幾個月，茉莉在Instagram存下2,100則跟自殺、自殘和憂鬱內容有關的貼文；在她使用的Pinterest平台裡，也存下469則相關負面內容。

在社交平台的世界裡，一旦搜尋或瀏覽過相關內容，演算法就會向用戶推播源源不絕的相關內容——即便這一些都是負面的貼文。因此，這意味著有憂鬱症的茉莉在搜尋相關負面內容後，就會跌入演算法的黑洞裡，無可避免地大量接觸這一些讓自己身心承受嚴重影響的貼文內容。

經過五年的調查，驗屍官也在9月30日表示，僅僅將茉莉的死因歸咎於自殺並不安全（safe），他裁定「茉莉是在遭受憂鬱症和網路內容的負面影響後，死於自殘行為。」

▌請收聽下方連結：

這次判決是英國第一宗官方認定將死因「直接歸咎於」——而不是有關聯——社交媒體的青少年自殺案例。驗屍官認為茉莉在網路上瀏覽的內容並不適合14歲的年紀，而患有憂鬱症的茉莉在接觸大量的負面內容後，最終導致她選擇結束自己的生命。

茉莉死後，她的家人成立了「茉莉玫瑰基金會」（Molly Rose Foundation），希望協助25歲以下族群的生命教育， 幫助他們擺脫網路負面內容。茉莉的父親伊恩（Ian Russell）也積極呼籲政府推動《網路安全法》，要求社交平台必須保護青少年免受網路負面內容的傷害。

由此延伸的重要問題也是：在兒童和青少年面前，社交媒體巨頭需要附上什麼責任，尤其如何確保與建立一個更安全的網路環境？此次出庭的Instagram和Pinterest代表分別又說了什麼？

• facebook

▌死亡演算法

茉莉出生於倫敦西部，生長於一個幸福美滿的家庭。在家人的眼裡，14歲的茉莉積極、開朗聰明，她喜歡音樂劇《漢彌爾頓》、喜歡澳洲樂團到暑五秒（5 Seconds of Summer）、喜歡哈利波特，同時也擔任學校表演的主角。從外觀上看來，茉莉就如同同齡的青少年一樣，有相似的興趣和愛好。

儘管如此，伊恩似乎也有察覺女兒有一些變化：茉莉變得比較沉默寡言，在房間的時間裡也越來越長。不過看著茉莉也有參與家庭活動，伊恩也就把女兒的行為歸結於青少年階段會經歷的情緒波動。2017年9月，伊恩也開口告訴茉莉，家人很擔心她的狀況，但茉莉也僅僅表示「這是我正在經歷的一個階段（just a phase I’m going through）。」

同年11月20日，茉莉和家人吃完晚餐後，一起觀賞在英國備受歡迎的電視節目《我是名人，救我出去！》（I’m a Celebrity … Get Me Out of Here!），結果就在隔天早上7點，家人打開茉莉的房門後，發現她已經自殺身亡。對茉莉家人而言，她的死「毫無預警」，且茉莉在最後一頓晚餐上，也「毫無異樣」，這讓伊恩開始調查女兒的可能死因，並從她在社交媒體上瀏覽過的內容發現了一個他不曾想像過，但茉莉生前正在經歷的黑暗世界。

茉莉生前較常瀏覽的社交平台是Instagram和Pinterest。在調查過程中，伊恩發現茉莉在自殺前的6個月瀏覽了大量令人不安和絕望的內容。根據《衛報》整理，茉莉在Instagram平台上儲存、點贊和分享約16,300則有關圖像、文字和影片的貼文，其中的2,100條與自殺、自殘和憂鬱有關。此外，茉莉也在Pinterest平台上儲存與自殘和自殺有關的469張圖片，並且將之命名為「沒什麼好擔心的」。

• facebook

這一些負面內容影響有多大？茉莉生前曾在Instagram上瀏覽過138支和自殘和自殺相關的影片，一名兒童心理諮詢師在聽證會上就形容自己在看了這一些影片後，有好幾個星期都難以入睡，也有人指出影片根本難以完整看完。而部分影片內容也在聽證會上重複播放，試圖讓在場的人了解到伊恩的所言與所感：持續接觸負面內容後，對身心造成的嚴重影響。

伊恩指出茉莉瀏覽的內容是一個他不認識的網路世界，「一旦陷入其中，就意味著它會不斷向你推薦更多相關內容，你逃不掉的。」例如，茉莉在Pinterest上搜尋憂鬱症的相關內容後，Pinterest還主動向茉莉推薦「10個你可能喜歡的憂鬱症別針」（10 depression pins you might like）。

英國預防青少年自殺的組織Papyrus首席執行官Ged Flynn就告訴《BBC》，許多有自殺念頭的年輕人會試圖在網路上了解「我是唯一一個有相同感覺的人嗎？」，然而當他們越這麼做，網路上的演算法就會越推播與自殺、自殘相關的內容給他們。這意味著，演算法的設計與規則，讓茉莉主動地、被動地被大量的負面內容包圍。

• facebook

此外，從茉莉在Twitter抒發心情的推文裡，也可發現她的身心如何一步步被侵蝕（茉莉花在Twitter上的時間較少，因此Twitter代表並沒有在此次出庭）。《BBC》報導，茉莉生前在Twitter的帳號名為「Idfc_nomore」，伊恩認為命名的由來是：我他媽的不在乎（I don't fucking care nomore）。

茉莉第一張發布在Twitter的圖片是一個女孩仰望著夜晚的星空，上面寫著「我已經準備好成為其中一顆星星了」（I'm ready to become one of the stars）。2017年2月4日，茉莉首次在推特上寫道：「我不需要被拯救（saved），我需要被找到（found）。」她也分享了一則似乎是從Pinterest截圖而來的圖片，內容大意為：即便有漂亮的家，漂亮的衣服，衣食無憂，但不代表這個人就不會受憂鬱或焦慮所苦，不會任何問題。

或許，茉莉生前將自己的憂鬱症隱藏得很好，但她也曾試圖求助過，只是求助的方向錯了。茉莉在Twitter的自介欄位上寫著「哈利波特是生命」，其實她曾求助於哈利波特的作者JK羅琳，她告訴JK羅琳自己充滿想要自殺的念頭，但她的求救訊號淹沒在JK羅琳帳號的1,390萬粉絲之中。或者，茉莉也曾向自己喜歡的影星求助，但一樣石沉大海。

綜合以上因素，這也是為何法院最終將茉莉的死「直接歸咎於」社交媒體上的原因——尤其，部分的貼文也呈現浪漫化自殺或自殘行為的內容，有些甚至將之包裝成一種藝術、創意的形式呈現在用戶面前。——那麼，面對茉莉的死，社交媒體的代表們怎麼說？

• facebook

• facebook

▌Instagram和Pinterest怎麼說？

Instagram母公司Meta的代表伊麗莎白（Elizabeth Lagone）和Pinterest社群營運負責人賈德（Jud Hoffman）皆親自出席聽證會。

在聽證會上，伊麗莎白為Instagram辯護，她指出部分關於憂鬱症和自殺的貼文內容適合青少年瀏覽，因為這一些貼文內容試圖提高用戶對自身心理狀態的意識，同時他們也在分享自己的感受。然而茉莉家人的辯護律師也質疑：怎麼會指望一個14歲的孩子能分辨這一些貼文的用意，例如這到底可以提高用戶對自我心理狀態的意識，還是反而會美化和鼓勵用戶做出自我傷害的行為？

對此，伊麗莎白也道歉，表示茉莉瀏覽過的部分貼文內容確實違反了Instagram平台守則。而賈德則回應Pinterest依然不完美，違反平台政策的內容至今可能還存在，他對茉莉所看到的內容感到深感遺憾。

茉莉的離去，讓伊恩意識到網路環境對兒童和青少年的身心影響。他呼籲英國政府盡快通過網路安全法保護青少年，同時也表示希望茉莉案子所得到的關注和檢視，有助於防止類似的悲劇再度發生，「如果這一些令人窒息、瘋狂的內容是安全的，我的女兒茉莉可能還活著，我們不會是失去親人的一家四口，而是我們五個人都會期待我們可愛茉莉的未來，一個充滿目標和承諾的生活。」

也是在聽證會結束後，伊恩再次向女兒茉莉致意，說道：「在一點上，我只想說無論這看起來有多麼黑暗，但總有希望。如果你正在掙扎（struggling），請與你信任的人或者許多提供援助的出色組織聊聊，而不是參與可能有害的網路內容。請盡你所能，活得長久，保持堅強。」

• facebook

自殺，不能解決難題；求助，才是最好的路。求救請打1995 ( 要救救我 )