親愛的網友:
為確保您享有最佳的瀏覽體驗,建議您提升您的 IE 瀏覽器至最新版本,感謝您的配合。

當螢幕裡只有絕望:一名英國少女如何被「演算法殺死」?

2022/10/14 轉角說

一名14歲的英國少女茉莉(Molly Russell)於2017年在家中自殺身亡...
一名14歲的英國少女茉莉(Molly Russell)於2017年在家中自殺身亡,茉莉的父母發現女兒在生前大量瀏覽社交平台上跟自殺、憂鬱有關的新聞。經過五年的調查,英國法院認定將其死因「直接歸咎於」社交媒體。 圖/影片截圖

2017年11月,一名14歲的英國少女茉莉(Molly Russell)在家中自殺身亡。茉莉的父母難過且震驚不已,他們回溯,責怪自己是否忽略了茉莉的求救訊號?是否沒有察覺到茉莉的情緒變化?他們事後在茉莉的手機裡發現可能導致茉莉輕生的線索:自殺前的幾個月,茉莉在Instagram存下2,100則跟自殺、自殘和憂鬱內容有關的貼文;在她使用的Pinterest平台裡,也存下469則相關負面內容。

在社交平台的世界裡,一旦搜尋或瀏覽過相關內容,演算法就會向用戶推播源源不絕的相關內容——即便這一些都是負面的貼文。因此,這意味著有憂鬱症的茉莉在搜尋相關負面內容後,就會跌入演算法的黑洞裡,無可避免地大量接觸這一些讓自己身心承受嚴重影響的貼文內容。

經過五年的調查,驗屍官也在9月30日表示,僅僅將茉莉的死因歸咎於自殺並不安全(safe),他裁定「茉莉是在遭受憂鬱症和網路內容的負面影響後,死於自殘行為。」

▌請收聽下方連結:

這次判決是英國第一宗官方認定將死因「直接歸咎於」——而不是有關聯——社交媒體的青少年自殺案例。驗屍官認為茉莉在網路上瀏覽的內容並不適合14歲的年紀,而患有憂鬱症的茉莉在接觸大量的負面內容後,最終導致她選擇結束自己的生命。

茉莉死後,她的家人成立了「茉莉玫瑰基金會」(Molly Rose Foundation),希望協助25歲以下族群的生命教育, 幫助他們擺脫網路負面內容。茉莉的父親伊恩(Ian Russell)也積極呼籲政府推動《網路安全法》,要求社交平台必須保護青少年免受網路負面內容的傷害。

由此延伸的重要問題也是:在兒童和青少年面前,社交媒體巨頭需要附上什麼責任,尤其如何確保與建立一個更安全的網路環境?此次出庭的Instagram和Pinterest代表分別又說了什麼?

在青少年面前,社交媒體巨頭需要附上什麼責任,尤其如何確保與建立一個更安全的網路環...
在青少年面前,社交媒體巨頭需要附上什麼責任,尤其如何確保與建立一個更安全的網路環境? 圖/法新社

▌死亡演算法

茉莉出生於倫敦西部,生長於一個幸福美滿的家庭。在家人的眼裡,14歲的茉莉積極、開朗聰明,她喜歡音樂劇《漢彌爾頓》、喜歡澳洲樂團到暑五秒(5 Seconds of Summer)、喜歡哈利波特,同時也擔任學校表演的主角。從外觀上看來,茉莉就如同同齡的青少年一樣,有相似的興趣和愛好。

儘管如此,伊恩似乎也有察覺女兒有一些變化:茉莉變得比較沉默寡言,在房間的時間裡也越來越長。不過看著茉莉也有參與家庭活動,伊恩也就把女兒的行為歸結於青少年階段會經歷的情緒波動。2017年9月,伊恩也開口告訴茉莉,家人很擔心她的狀況,但茉莉也僅僅表示「這是我正在經歷的一個階段(just a phase I’m going through)。」

同年11月20日,茉莉和家人吃完晚餐後,一起觀賞在英國備受歡迎的電視節目《我是名人,救我出去!》(I’m a Celebrity … Get Me Out of Here!),結果就在隔天早上7點,家人打開茉莉的房門後,發現她已經自殺身亡。對茉莉家人而言,她的死「毫無預警」,且茉莉在最後一頓晚餐上,也「毫無異樣」,這讓伊恩開始調查女兒的可能死因,並從她在社交媒體上瀏覽過的內容發現了一個他不曾想像過,但茉莉生前正在經歷的黑暗世界。

茉莉生前較常瀏覽的社交平台是Instagram和Pinterest。在調查過程中,伊恩發現茉莉在自殺前的6個月瀏覽了大量令人不安和絕望的內容。根據《衛報》整理,茉莉在Instagram平台上儲存、點贊和分享約16,300則有關圖像、文字和影片的貼文,其中的2,100條與自殺、自殘和憂鬱有關。此外,茉莉也在Pinterest平台上儲存與自殘和自殺有關的469張圖片,並且將之命名為「沒什麼好擔心的」。

圖非當事人。伊恩開始調查女兒的可能死因,並從她在社交媒體上瀏覽過的內容發現了一個...
圖非當事人。伊恩開始調查女兒的可能死因,並從她在社交媒體上瀏覽過的內容發現了一個他不曾想像過,但茉莉生前正在經歷的黑暗世界。 圖/美聯社

這一些負面內容影響有多大?茉莉生前曾在Instagram上瀏覽過138支和自殘和自殺相關的影片,一名兒童心理諮詢師在聽證會上就形容自己在看了這一些影片後,有好幾個星期都難以入睡,也有人指出影片根本難以完整看完。而部分影片內容也在聽證會上重複播放,試圖讓在場的人了解到伊恩的所言與所感:持續接觸負面內容後,對身心造成的嚴重影響。

伊恩指出茉莉瀏覽的內容是一個他不認識的網路世界,「一旦陷入其中,就意味著它會不斷向你推薦更多相關內容,你逃不掉的。」例如,茉莉在Pinterest上搜尋憂鬱症的相關內容後,Pinterest還主動向茉莉推薦「10個你可能喜歡的憂鬱症別針」(10 depression pins you might like)。

英國預防青少年自殺的組織Papyrus首席執行官Ged Flynn就告訴《BBC》,許多有自殺念頭的年輕人會試圖在網路上了解「我是唯一一個有相同感覺的人嗎?」,然而當他們越這麼做,網路上的演算法就會越推播與自殺、自殘相關的內容給他們。這意味著,演算法的設計與規則,讓茉莉主動地、被動地被大量的負面內容包圍。

茉莉的死也引起英國威廉王子夫婦的關注。圖為2019年,威廉王子夫婦與茉莉的父親伊...
茉莉的死也引起英國威廉王子夫婦的關注。圖為2019年,威廉王子夫婦與茉莉的父親伊恩(右)在一場活動中見面。 圖/美聯社

此外,從茉莉在Twitter抒發心情的推文裡,也可發現她的身心如何一步步被侵蝕(茉莉花在Twitter上的時間較少,因此Twitter代表並沒有在此次出庭)。《BBC》報導,茉莉生前在Twitter的帳號名為「Idfc_nomore」,伊恩認為命名的由來是:我他媽的不在乎(I don't fucking care nomore)。

茉莉第一張發布在Twitter的圖片是一個女孩仰望著夜晚的星空,上面寫著「我已經準備好成為其中一顆星星了」(I'm ready to become one of the stars)。2017年2月4日,茉莉首次在推特上寫道:「我不需要被拯救(saved),我需要被找到(found)。」她也分享了一則似乎是從Pinterest截圖而來的圖片,內容大意為:即便有漂亮的家,漂亮的衣服,衣食無憂,但不代表這個人就不會受憂鬱或焦慮所苦,不會任何問題。

或許,茉莉生前將自己的憂鬱症隱藏得很好,但她也曾試圖求助過,只是求助的方向錯了。茉莉在Twitter的自介欄位上寫著「哈利波特是生命」,其實她曾求助於哈利波特的作者JK羅琳,她告訴JK羅琳自己充滿想要自殺的念頭,但她的求救訊號淹沒在JK羅琳帳號的1,390萬粉絲之中。或者,茉莉也曾向自己喜歡的影星求助,但一樣石沉大海。

綜合以上因素,這也是為何法院最終將茉莉的死「直接歸咎於」社交媒體上的原因——尤其,部分的貼文也呈現浪漫化自殺或自殘行為的內容,有些甚至將之包裝成一種藝術、創意的形式呈現在用戶面前。——那麼,面對茉莉的死,社交媒體的代表們怎麼說?

伊恩指出茉莉瀏覽的內容是一個他不認識的網路世界,「一旦陷入其中,就意味著它會不斷...
伊恩指出茉莉瀏覽的內容是一個他不認識的網路世界,「一旦陷入其中,就意味著它會不斷向你推薦更多相關內容,你逃不掉的。」 圖/法新社

圖非當事人。 圖/美聯社
圖非當事人。 圖/美聯社

▌Instagram和Pinterest怎麼說?

Instagram母公司Meta的代表伊麗莎白(Elizabeth Lagone)和Pinterest社群營運負責人賈德(Jud Hoffman)皆親自出席聽證會。

在聽證會上,伊麗莎白為Instagram辯護,她指出部分關於憂鬱症和自殺的貼文內容適合青少年瀏覽,因為這一些貼文內容試圖提高用戶對自身心理狀態的意識,同時他們也在分享自己的感受。然而茉莉家人的辯護律師也質疑:怎麼會指望一個14歲的孩子能分辨這一些貼文的用意,例如這到底可以提高用戶對自我心理狀態的意識,還是反而會美化和鼓勵用戶做出自我傷害的行為?

對此,伊麗莎白也道歉,表示茉莉瀏覽過的部分貼文內容確實違反了Instagram平台守則。而賈德則回應Pinterest依然不完美,違反平台政策的內容至今可能還存在,他對茉莉所看到的內容感到深感遺憾。

茉莉的離去,讓伊恩意識到網路環境對兒童和青少年的身心影響。他呼籲英國政府盡快通過網路安全法保護青少年,同時也表示希望茉莉案子所得到的關注和檢視,有助於防止類似的悲劇再度發生,「如果這一些令人窒息、瘋狂的內容是安全的,我的女兒茉莉可能還活著,我們不會是失去親人的一家四口,而是我們五個人都會期待我們可愛茉莉的未來,一個充滿目標和承諾的生活。」

也是在聽證會結束後,伊恩再次向女兒茉莉致意,說道:「在一點上,我只想說無論這看起來有多麼黑暗,但總有希望。如果你正在掙扎(struggling),請與你信任的人或者許多提供援助的出色組織聊聊,而不是參與可能有害的網路內容。請盡你所能,活得長久,保持堅強。」

「我想說的最後一件事是感謝茉莉,謝謝你成為我的女兒。謝謝你。」

「我想說的最後一件事是感謝茉莉,謝謝你成為我的女兒。謝謝你。」 圖/美聯社
「我想說的最後一件事是感謝茉莉,謝謝你成為我的女兒。謝謝你。」 圖/美聯社

自殺,不能解決難題;求助,才是最好的路。求救請打1995 ( 要救救我 )


收看更多文章,請訂閱轉角國際facebook專頁:

推薦閱讀

臉書缺德又怎樣?FB吹哨者的國會證詞與「屠龍諫言」大戰

一級玩家祖克伯?FB集團更名「Meta」的爭議大戰略

嘲諷習近平的網路樹洞?從「可惜不是你」到「該死的不死」

轉角說

轉角國際編輯台:「在國際新聞之後,讀懂新聞;世界趨勢之前,掌握趨勢。」

作者文章

孟若女兒的控訴在世界文壇宛若震撼彈。圖為路人在孟若書店的櫥窗前端詳。 圖/路透社

成功的作家,失敗的母親?孟若之女的家內性侵控訴,戳破沉默後的輿論風暴

2024/07/12
左為引進星鏈的部落領袖埃諾克.馬魯博(Enoque Marubo),正在架設星鏈...

網路成癮又沉迷A片?亞馬遜部落新聞的扭曲與誇大

2024/06/21
1989年6月10日,天安門廣場已經被清場完畢。 圖/美聯社 

【專題回顧】六四天安門事件35周年:記憶與遺忘的爭鬥

2024/06/04
針對未成年人的網路性勒索問題並未隨著疫情退去而趨緩,且越來越多未成年男孩已成為犯...

惡化的全球犯罪:泛濫的未成年人網路性勒索「教學指南」

2024/05/31
挪威、西班牙、愛爾蘭三國將正式承認巴勒斯坦國。圖為愛爾蘭民眾在都柏林揮舞巴勒斯坦...

他們因何支持?挪威、西班牙、愛爾蘭將承認巴勒斯坦國

2024/05/23
圖為東京高岩寺,示意圖,與本案情節無關。 圖/法新社

怪物毒親的煉成:日本滋賀縣弒母案的回憶與懺悔

2024/05/18

最新文章

發生在2023年4月4日深夜的福爾斯霍滕出軌事故,是荷蘭罕見的鐵路致命事故。 圖...

漏洞的總和:荷蘭火車出軌案,調查一年後為何「查無事故原因」?

2024/07/23
近代中亞歷經反殖民、民族化、共產化與現代化等多重洗禮,成為既分歧又交織的局面。圖...

《被遺忘的中亞》:不只是絲路,拆解分歧與交織的中亞「新歷史」

2024/07/23
歷屆奧運的主辦城市為了向國際呈現自己最好的一面,經常以各種手段掩蓋社會中悲慘的部...

聖火來了,快把「他們」藏起來——巴黎奧運不歡迎的法國底層人群

2024/07/18
©Jeroen Oerlemans 
在中非共和國,一輛無國界醫生的補給卡車行...

上山下海救援前線:無國界醫生的10種交通工具

2024/07/17
摩門教是美國中西部地區流行的宗教,鹽湖城的建立也與摩門教的發展密不可分。示意圖,...

信仰中的「永恆家庭」:摩門之都鹽湖城,如何成為美國家譜研究中心?

2024/07/16
作家孟若在女兒吐露遭繼父性侵時指出,如果女兒要求她把母親身分置於身為女性的情感之...

厭女陷阱與真實的多元性:孟若之女控訴後,我們該如何討論家內性侵?

2024/07/16

回應

Top