親愛的網友:
為確保您享有最佳的瀏覽體驗,建議您提升您的 IE 瀏覽器至最新版本,感謝您的配合。

當螢幕裡只有絕望:一名英國少女如何被「演算法殺死」?

2022/10/14 轉角說

一名14歲的英國少女茉莉(Molly Russell)於2017年在家中自殺身亡...
一名14歲的英國少女茉莉(Molly Russell)於2017年在家中自殺身亡,茉莉的父母發現女兒在生前大量瀏覽社交平台上跟自殺、憂鬱有關的新聞。經過五年的調查,英國法院認定將其死因「直接歸咎於」社交媒體。 圖/影片截圖

2017年11月,一名14歲的英國少女茉莉(Molly Russell)在家中自殺身亡。茉莉的父母難過且震驚不已,他們回溯,責怪自己是否忽略了茉莉的求救訊號?是否沒有察覺到茉莉的情緒變化?他們事後在茉莉的手機裡發現可能導致茉莉輕生的線索:自殺前的幾個月,茉莉在Instagram存下2,100則跟自殺、自殘和憂鬱內容有關的貼文;在她使用的Pinterest平台裡,也存下469則相關負面內容。

在社交平台的世界裡,一旦搜尋或瀏覽過相關內容,演算法就會向用戶推播源源不絕的相關內容——即便這一些都是負面的貼文。因此,這意味著有憂鬱症的茉莉在搜尋相關負面內容後,就會跌入演算法的黑洞裡,無可避免地大量接觸這一些讓自己身心承受嚴重影響的貼文內容。

經過五年的調查,驗屍官也在9月30日表示,僅僅將茉莉的死因歸咎於自殺並不安全(safe),他裁定「茉莉是在遭受憂鬱症和網路內容的負面影響後,死於自殘行為。」

▌請收聽下方連結:

這次判決是英國第一宗官方認定將死因「直接歸咎於」——而不是有關聯——社交媒體的青少年自殺案例。驗屍官認為茉莉在網路上瀏覽的內容並不適合14歲的年紀,而患有憂鬱症的茉莉在接觸大量的負面內容後,最終導致她選擇結束自己的生命。

茉莉死後,她的家人成立了「茉莉玫瑰基金會」(Molly Rose Foundation),希望協助25歲以下族群的生命教育, 幫助他們擺脫網路負面內容。茉莉的父親伊恩(Ian Russell)也積極呼籲政府推動《網路安全法》,要求社交平台必須保護青少年免受網路負面內容的傷害。

由此延伸的重要問題也是:在兒童和青少年面前,社交媒體巨頭需要附上什麼責任,尤其如何確保與建立一個更安全的網路環境?此次出庭的Instagram和Pinterest代表分別又說了什麼?

在青少年面前,社交媒體巨頭需要附上什麼責任,尤其如何確保與建立一個更安全的網路環...
在青少年面前,社交媒體巨頭需要附上什麼責任,尤其如何確保與建立一個更安全的網路環境? 圖/法新社

▌死亡演算法

茉莉出生於倫敦西部,生長於一個幸福美滿的家庭。在家人的眼裡,14歲的茉莉積極、開朗聰明,她喜歡音樂劇《漢彌爾頓》、喜歡澳洲樂團到暑五秒(5 Seconds of Summer)、喜歡哈利波特,同時也擔任學校表演的主角。從外觀上看來,茉莉就如同同齡的青少年一樣,有相似的興趣和愛好。

儘管如此,伊恩似乎也有察覺女兒有一些變化:茉莉變得比較沉默寡言,在房間的時間裡也越來越長。不過看著茉莉也有參與家庭活動,伊恩也就把女兒的行為歸結於青少年階段會經歷的情緒波動。2017年9月,伊恩也開口告訴茉莉,家人很擔心她的狀況,但茉莉也僅僅表示「這是我正在經歷的一個階段(just a phase I’m going through)。」

同年11月20日,茉莉和家人吃完晚餐後,一起觀賞在英國備受歡迎的電視節目《我是名人,救我出去!》(I’m a Celebrity … Get Me Out of Here!),結果就在隔天早上7點,家人打開茉莉的房門後,發現她已經自殺身亡。對茉莉家人而言,她的死「毫無預警」,且茉莉在最後一頓晚餐上,也「毫無異樣」,這讓伊恩開始調查女兒的可能死因,並從她在社交媒體上瀏覽過的內容發現了一個他不曾想像過,但茉莉生前正在經歷的黑暗世界。

茉莉生前較常瀏覽的社交平台是Instagram和Pinterest。在調查過程中,伊恩發現茉莉在自殺前的6個月瀏覽了大量令人不安和絕望的內容。根據《衛報》整理,茉莉在Instagram平台上儲存、點贊和分享約16,300則有關圖像、文字和影片的貼文,其中的2,100條與自殺、自殘和憂鬱有關。此外,茉莉也在Pinterest平台上儲存與自殘和自殺有關的469張圖片,並且將之命名為「沒什麼好擔心的」。

圖非當事人。伊恩開始調查女兒的可能死因,並從她在社交媒體上瀏覽過的內容發現了一個...
圖非當事人。伊恩開始調查女兒的可能死因,並從她在社交媒體上瀏覽過的內容發現了一個他不曾想像過,但茉莉生前正在經歷的黑暗世界。 圖/美聯社

這一些負面內容影響有多大?茉莉生前曾在Instagram上瀏覽過138支和自殘和自殺相關的影片,一名兒童心理諮詢師在聽證會上就形容自己在看了這一些影片後,有好幾個星期都難以入睡,也有人指出影片根本難以完整看完。而部分影片內容也在聽證會上重複播放,試圖讓在場的人了解到伊恩的所言與所感:持續接觸負面內容後,對身心造成的嚴重影響。

伊恩指出茉莉瀏覽的內容是一個他不認識的網路世界,「一旦陷入其中,就意味著它會不斷向你推薦更多相關內容,你逃不掉的。」例如,茉莉在Pinterest上搜尋憂鬱症的相關內容後,Pinterest還主動向茉莉推薦「10個你可能喜歡的憂鬱症別針」(10 depression pins you might like)。

英國預防青少年自殺的組織Papyrus首席執行官Ged Flynn就告訴《BBC》,許多有自殺念頭的年輕人會試圖在網路上了解「我是唯一一個有相同感覺的人嗎?」,然而當他們越這麼做,網路上的演算法就會越推播與自殺、自殘相關的內容給他們。這意味著,演算法的設計與規則,讓茉莉主動地、被動地被大量的負面內容包圍。

茉莉的死也引起英國威廉王子夫婦的關注。圖為2019年,威廉王子夫婦與茉莉的父親伊...
茉莉的死也引起英國威廉王子夫婦的關注。圖為2019年,威廉王子夫婦與茉莉的父親伊恩(右)在一場活動中見面。 圖/美聯社

此外,從茉莉在Twitter抒發心情的推文裡,也可發現她的身心如何一步步被侵蝕(茉莉花在Twitter上的時間較少,因此Twitter代表並沒有在此次出庭)。《BBC》報導,茉莉生前在Twitter的帳號名為「Idfc_nomore」,伊恩認為命名的由來是:我他媽的不在乎(I don't fucking care nomore)。

茉莉第一張發布在Twitter的圖片是一個女孩仰望著夜晚的星空,上面寫著「我已經準備好成為其中一顆星星了」(I'm ready to become one of the stars)。2017年2月4日,茉莉首次在推特上寫道:「我不需要被拯救(saved),我需要被找到(found)。」她也分享了一則似乎是從Pinterest截圖而來的圖片,內容大意為:即便有漂亮的家,漂亮的衣服,衣食無憂,但不代表這個人就不會受憂鬱或焦慮所苦,不會任何問題。

或許,茉莉生前將自己的憂鬱症隱藏得很好,但她也曾試圖求助過,只是求助的方向錯了。茉莉在Twitter的自介欄位上寫著「哈利波特是生命」,其實她曾求助於哈利波特的作者JK羅琳,她告訴JK羅琳自己充滿想要自殺的念頭,但她的求救訊號淹沒在JK羅琳帳號的1,390萬粉絲之中。或者,茉莉也曾向自己喜歡的影星求助,但一樣石沉大海。

綜合以上因素,這也是為何法院最終將茉莉的死「直接歸咎於」社交媒體上的原因——尤其,部分的貼文也呈現浪漫化自殺或自殘行為的內容,有些甚至將之包裝成一種藝術、創意的形式呈現在用戶面前。——那麼,面對茉莉的死,社交媒體的代表們怎麼說?

伊恩指出茉莉瀏覽的內容是一個他不認識的網路世界,「一旦陷入其中,就意味著它會不斷...
伊恩指出茉莉瀏覽的內容是一個他不認識的網路世界,「一旦陷入其中,就意味著它會不斷向你推薦更多相關內容,你逃不掉的。」 圖/法新社

圖非當事人。 圖/美聯社
圖非當事人。 圖/美聯社

▌Instagram和Pinterest怎麼說?

Instagram母公司Meta的代表伊麗莎白(Elizabeth Lagone)和Pinterest社群營運負責人賈德(Jud Hoffman)皆親自出席聽證會。

在聽證會上,伊麗莎白為Instagram辯護,她指出部分關於憂鬱症和自殺的貼文內容適合青少年瀏覽,因為這一些貼文內容試圖提高用戶對自身心理狀態的意識,同時他們也在分享自己的感受。然而茉莉家人的辯護律師也質疑:怎麼會指望一個14歲的孩子能分辨這一些貼文的用意,例如這到底可以提高用戶對自我心理狀態的意識,還是反而會美化和鼓勵用戶做出自我傷害的行為?

對此,伊麗莎白也道歉,表示茉莉瀏覽過的部分貼文內容確實違反了Instagram平台守則。而賈德則回應Pinterest依然不完美,違反平台政策的內容至今可能還存在,他對茉莉所看到的內容感到深感遺憾。

茉莉的離去,讓伊恩意識到網路環境對兒童和青少年的身心影響。他呼籲英國政府盡快通過網路安全法保護青少年,同時也表示希望茉莉案子所得到的關注和檢視,有助於防止類似的悲劇再度發生,「如果這一些令人窒息、瘋狂的內容是安全的,我的女兒茉莉可能還活著,我們不會是失去親人的一家四口,而是我們五個人都會期待我們可愛茉莉的未來,一個充滿目標和承諾的生活。」

也是在聽證會結束後,伊恩再次向女兒茉莉致意,說道:「在一點上,我只想說無論這看起來有多麼黑暗,但總有希望。如果你正在掙扎(struggling),請與你信任的人或者許多提供援助的出色組織聊聊,而不是參與可能有害的網路內容。請盡你所能,活得長久,保持堅強。」

「我想說的最後一件事是感謝茉莉,謝謝你成為我的女兒。謝謝你。」

「我想說的最後一件事是感謝茉莉,謝謝你成為我的女兒。謝謝你。」 圖/美聯社
「我想說的最後一件事是感謝茉莉,謝謝你成為我的女兒。謝謝你。」 圖/美聯社

自殺,不能解決難題;求助,才是最好的路。求救請打1995 ( 要救救我 )


收看更多文章,請訂閱轉角國際facebook專頁:

推薦閱讀

臉書缺德又怎樣?FB吹哨者的國會證詞與「屠龍諫言」大戰

一級玩家祖克伯?FB集團更名「Meta」的爭議大戰略

嘲諷習近平的網路樹洞?從「可惜不是你」到「該死的不死」

轉角說

轉角國際編輯台:「在國際新聞之後,讀懂新聞;世界趨勢之前,掌握趨勢。」

作者文章

加薩被封鎖圍攻近一年,醫療資源極為缺乏。圖為9月17日,醫護人員走在被摧毀的希法...

戰火之下我願同行:專訪在加薩的台灣無國界醫生 ft. 許彥鈞、鄔逸群

2024/10/04
以色列監獄多次被控,士兵集體對巴勒斯坦囚犯施加酷刑和性虐待,近日又有影片外流,連...

系統化的施虐?以色列監獄爆性虐巴勒斯坦囚犯,疑為政府授意

2024/08/21
來自澳洲的36歲霹靂舞選手瑞根(舞名Raygun,有雷射槍之意,本名Rachae...

迷因袋鼠舞?奧運霹靂舞 Raygun 事件:如何看待 Breaking 的風格與賽事

2024/08/15
性別檢測因奧運意外成為熱議詞。示意圖,圖為助產士為新生兒進行體格檢查。 圖/中新...

新生兒判定男女有多複雜?專訪劉士嶢醫師,與回顧運動賽事的性別政治

2024/08/09
烏克蘭運動攀岩女將珍雅(Jenya Kazbekova),左為今年4月珍雅在英國...

背負和平的重量,在巴黎奧運往上攀:烏克蘭運動攀岩選手珍雅的故事

2024/08/06
繼東京奧運之後,運動攀岩(Sport Climbing)再次成為2024巴黎奧運...

巴黎奧運攀岩觀賽指南(上):運動攀岩有哪幾種?怎麼比?

2024/08/02

最新文章

張保仔的傳奇深深鑲嵌在香港文化之中。左為《壹捌零壹》圖畫,右為清朝袁永綸所著《靖...

從香港航向偉大航道:傳奇海盜張保仔,《壹捌零壹》的海洋文化靈魂

2024/10/09
將近30年前的卡拉加斯埃爾多拉多大屠殺,至今仍然是巴西未能癒合的創傷,也是巴西種...

《安蒂岡妮在亞馬遜》:希臘悲劇結合巴西屠殺事件,遏止雨林濫伐暴力的呼求

2024/10/07
《標籤的重量》關注的即是其中一位被俄國釋放的政治犯——為人權抗爭的藝術家莎夏・斯...

《標籤的重量》:將超市標籤換成反戰文字,俄國藝術家莎夏的反抗

2024/10/03
巴勒斯坦女性在街頭製作炸豆泥餅與皮塔餅等小吃。 圖/法新社

料理即抵抗:巴勒斯坦餐盤裡的掙扎與力量

2024/10/03
2024年台灣國際女性影展選映烏克蘭導演斯維蘭娜・利欽斯卡(Svitlana L...

烏克蘭《烽火下的愛與隔閡》:烏東導演致陌生國與家的一封信

2024/10/02
韓國女團NewJeans的5名團員9月11日無預警直播,在公司經營權之爭當中力挺...

少女偶像之逆襲:NewJeans直播事件,KPOP藝人反抗的時代意義

2024/09/30

回應

Top