親愛的網友:
為確保您享有最佳的瀏覽體驗,建議您提升您的 IE 瀏覽器至最新版本,感謝您的配合。

當螢幕裡只有絕望:一名英國少女如何被「演算法殺死」?

2022/10/14 轉角說

一名14歲的英國少女茉莉(Molly Russell)於2017年在家中自殺身亡...
一名14歲的英國少女茉莉(Molly Russell)於2017年在家中自殺身亡,茉莉的父母發現女兒在生前大量瀏覽社交平台上跟自殺、憂鬱有關的新聞。經過五年的調查,英國法院認定將其死因「直接歸咎於」社交媒體。 圖/影片截圖

2017年11月,一名14歲的英國少女茉莉(Molly Russell)在家中自殺身亡。茉莉的父母難過且震驚不已,他們回溯,責怪自己是否忽略了茉莉的求救訊號?是否沒有察覺到茉莉的情緒變化?他們事後在茉莉的手機裡發現可能導致茉莉輕生的線索:自殺前的幾個月,茉莉在Instagram存下2,100則跟自殺、自殘和憂鬱內容有關的貼文;在她使用的Pinterest平台裡,也存下469則相關負面內容。

在社交平台的世界裡,一旦搜尋或瀏覽過相關內容,演算法就會向用戶推播源源不絕的相關內容——即便這一些都是負面的貼文。因此,這意味著有憂鬱症的茉莉在搜尋相關負面內容後,就會跌入演算法的黑洞裡,無可避免地大量接觸這一些讓自己身心承受嚴重影響的貼文內容。

經過五年的調查,驗屍官也在9月30日表示,僅僅將茉莉的死因歸咎於自殺並不安全(safe),他裁定「茉莉是在遭受憂鬱症和網路內容的負面影響後,死於自殘行為。」

▌請收聽下方連結:

這次判決是英國第一宗官方認定將死因「直接歸咎於」——而不是有關聯——社交媒體的青少年自殺案例。驗屍官認為茉莉在網路上瀏覽的內容並不適合14歲的年紀,而患有憂鬱症的茉莉在接觸大量的負面內容後,最終導致她選擇結束自己的生命。

茉莉死後,她的家人成立了「茉莉玫瑰基金會」(Molly Rose Foundation),希望協助25歲以下族群的生命教育, 幫助他們擺脫網路負面內容。茉莉的父親伊恩(Ian Russell)也積極呼籲政府推動《網路安全法》,要求社交平台必須保護青少年免受網路負面內容的傷害。

由此延伸的重要問題也是:在兒童和青少年面前,社交媒體巨頭需要附上什麼責任,尤其如何確保與建立一個更安全的網路環境?此次出庭的Instagram和Pinterest代表分別又說了什麼?

在青少年面前,社交媒體巨頭需要附上什麼責任,尤其如何確保與建立一個更安全的網路環...
在青少年面前,社交媒體巨頭需要附上什麼責任,尤其如何確保與建立一個更安全的網路環境? 圖/法新社

▌死亡演算法

茉莉出生於倫敦西部,生長於一個幸福美滿的家庭。在家人的眼裡,14歲的茉莉積極、開朗聰明,她喜歡音樂劇《漢彌爾頓》、喜歡澳洲樂團到暑五秒(5 Seconds of Summer)、喜歡哈利波特,同時也擔任學校表演的主角。從外觀上看來,茉莉就如同同齡的青少年一樣,有相似的興趣和愛好。

儘管如此,伊恩似乎也有察覺女兒有一些變化:茉莉變得比較沉默寡言,在房間的時間裡也越來越長。不過看著茉莉也有參與家庭活動,伊恩也就把女兒的行為歸結於青少年階段會經歷的情緒波動。2017年9月,伊恩也開口告訴茉莉,家人很擔心她的狀況,但茉莉也僅僅表示「這是我正在經歷的一個階段(just a phase I’m going through)。」

同年11月20日,茉莉和家人吃完晚餐後,一起觀賞在英國備受歡迎的電視節目《我是名人,救我出去!》(I’m a Celebrity … Get Me Out of Here!),結果就在隔天早上7點,家人打開茉莉的房門後,發現她已經自殺身亡。對茉莉家人而言,她的死「毫無預警」,且茉莉在最後一頓晚餐上,也「毫無異樣」,這讓伊恩開始調查女兒的可能死因,並從她在社交媒體上瀏覽過的內容發現了一個他不曾想像過,但茉莉生前正在經歷的黑暗世界。

茉莉生前較常瀏覽的社交平台是Instagram和Pinterest。在調查過程中,伊恩發現茉莉在自殺前的6個月瀏覽了大量令人不安和絕望的內容。根據《衛報》整理,茉莉在Instagram平台上儲存、點贊和分享約16,300則有關圖像、文字和影片的貼文,其中的2,100條與自殺、自殘和憂鬱有關。此外,茉莉也在Pinterest平台上儲存與自殘和自殺有關的469張圖片,並且將之命名為「沒什麼好擔心的」。

圖非當事人。伊恩開始調查女兒的可能死因,並從她在社交媒體上瀏覽過的內容發現了一個...
圖非當事人。伊恩開始調查女兒的可能死因,並從她在社交媒體上瀏覽過的內容發現了一個他不曾想像過,但茉莉生前正在經歷的黑暗世界。 圖/美聯社

這一些負面內容影響有多大?茉莉生前曾在Instagram上瀏覽過138支和自殘和自殺相關的影片,一名兒童心理諮詢師在聽證會上就形容自己在看了這一些影片後,有好幾個星期都難以入睡,也有人指出影片根本難以完整看完。而部分影片內容也在聽證會上重複播放,試圖讓在場的人了解到伊恩的所言與所感:持續接觸負面內容後,對身心造成的嚴重影響。

伊恩指出茉莉瀏覽的內容是一個他不認識的網路世界,「一旦陷入其中,就意味著它會不斷向你推薦更多相關內容,你逃不掉的。」例如,茉莉在Pinterest上搜尋憂鬱症的相關內容後,Pinterest還主動向茉莉推薦「10個你可能喜歡的憂鬱症別針」(10 depression pins you might like)。

英國預防青少年自殺的組織Papyrus首席執行官Ged Flynn就告訴《BBC》,許多有自殺念頭的年輕人會試圖在網路上了解「我是唯一一個有相同感覺的人嗎?」,然而當他們越這麼做,網路上的演算法就會越推播與自殺、自殘相關的內容給他們。這意味著,演算法的設計與規則,讓茉莉主動地、被動地被大量的負面內容包圍。

茉莉的死也引起英國威廉王子夫婦的關注。圖為2019年,威廉王子夫婦與茉莉的父親伊...
茉莉的死也引起英國威廉王子夫婦的關注。圖為2019年,威廉王子夫婦與茉莉的父親伊恩(右)在一場活動中見面。 圖/美聯社

此外,從茉莉在Twitter抒發心情的推文裡,也可發現她的身心如何一步步被侵蝕(茉莉花在Twitter上的時間較少,因此Twitter代表並沒有在此次出庭)。《BBC》報導,茉莉生前在Twitter的帳號名為「Idfc_nomore」,伊恩認為命名的由來是:我他媽的不在乎(I don't fucking care nomore)。

茉莉第一張發布在Twitter的圖片是一個女孩仰望著夜晚的星空,上面寫著「我已經準備好成為其中一顆星星了」(I'm ready to become one of the stars)。2017年2月4日,茉莉首次在推特上寫道:「我不需要被拯救(saved),我需要被找到(found)。」她也分享了一則似乎是從Pinterest截圖而來的圖片,內容大意為:即便有漂亮的家,漂亮的衣服,衣食無憂,但不代表這個人就不會受憂鬱或焦慮所苦,不會任何問題。

或許,茉莉生前將自己的憂鬱症隱藏得很好,但她也曾試圖求助過,只是求助的方向錯了。茉莉在Twitter的自介欄位上寫著「哈利波特是生命」,其實她曾求助於哈利波特的作者JK羅琳,她告訴JK羅琳自己充滿想要自殺的念頭,但她的求救訊號淹沒在JK羅琳帳號的1,390萬粉絲之中。或者,茉莉也曾向自己喜歡的影星求助,但一樣石沉大海。

綜合以上因素,這也是為何法院最終將茉莉的死「直接歸咎於」社交媒體上的原因——尤其,部分的貼文也呈現浪漫化自殺或自殘行為的內容,有些甚至將之包裝成一種藝術、創意的形式呈現在用戶面前。——那麼,面對茉莉的死,社交媒體的代表們怎麼說?

伊恩指出茉莉瀏覽的內容是一個他不認識的網路世界,「一旦陷入其中,就意味著它會不斷...
伊恩指出茉莉瀏覽的內容是一個他不認識的網路世界,「一旦陷入其中,就意味著它會不斷向你推薦更多相關內容,你逃不掉的。」 圖/法新社

圖非當事人。 圖/美聯社
圖非當事人。 圖/美聯社

▌Instagram和Pinterest怎麼說?

Instagram母公司Meta的代表伊麗莎白(Elizabeth Lagone)和Pinterest社群營運負責人賈德(Jud Hoffman)皆親自出席聽證會。

在聽證會上,伊麗莎白為Instagram辯護,她指出部分關於憂鬱症和自殺的貼文內容適合青少年瀏覽,因為這一些貼文內容試圖提高用戶對自身心理狀態的意識,同時他們也在分享自己的感受。然而茉莉家人的辯護律師也質疑:怎麼會指望一個14歲的孩子能分辨這一些貼文的用意,例如這到底可以提高用戶對自我心理狀態的意識,還是反而會美化和鼓勵用戶做出自我傷害的行為?

對此,伊麗莎白也道歉,表示茉莉瀏覽過的部分貼文內容確實違反了Instagram平台守則。而賈德則回應Pinterest依然不完美,違反平台政策的內容至今可能還存在,他對茉莉所看到的內容感到深感遺憾。

茉莉的離去,讓伊恩意識到網路環境對兒童和青少年的身心影響。他呼籲英國政府盡快通過網路安全法保護青少年,同時也表示希望茉莉案子所得到的關注和檢視,有助於防止類似的悲劇再度發生,「如果這一些令人窒息、瘋狂的內容是安全的,我的女兒茉莉可能還活著,我們不會是失去親人的一家四口,而是我們五個人都會期待我們可愛茉莉的未來,一個充滿目標和承諾的生活。」

也是在聽證會結束後,伊恩再次向女兒茉莉致意,說道:「在一點上,我只想說無論這看起來有多麼黑暗,但總有希望。如果你正在掙扎(struggling),請與你信任的人或者許多提供援助的出色組織聊聊,而不是參與可能有害的網路內容。請盡你所能,活得長久,保持堅強。」

「我想說的最後一件事是感謝茉莉,謝謝你成為我的女兒。謝謝你。」

「我想說的最後一件事是感謝茉莉,謝謝你成為我的女兒。謝謝你。」 圖/美聯社
「我想說的最後一件事是感謝茉莉,謝謝你成為我的女兒。謝謝你。」 圖/美聯社

自殺,不能解決難題;求助,才是最好的路。求救請打1995 ( 要救救我 )


收看更多文章,請訂閱轉角國際facebook專頁:

推薦閱讀

臉書缺德又怎樣?FB吹哨者的國會證詞與「屠龍諫言」大戰

一級玩家祖克伯?FB集團更名「Meta」的爭議大戰略

嘲諷習近平的網路樹洞?從「可惜不是你」到「該死的不死」

轉角說

轉角國際編輯台:「在國際新聞之後,讀懂新聞;世界趨勢之前,掌握趨勢。」

作者文章

左上:北京四通橋抗議標語;左下:貴州死亡大巴;中:烏魯木齊大火;右上:呼和浩特焊...

點燃白紙的「共感之痛」:中國清零封控一年的防疫亂象事件簿

2022/11/29
左起:2015年的非洲時尚週男模、1919年的三件式舊時代男裝風格、18至19世...

西服男子之必要?從優雅到實用的《古典男裝全圖解》

2022/11/28
圖/報系資料圖庫

移工怎麼都在直播?專訪江婉琦與她的東南亞移工生活側寫

2022/11/25
圖為富士康深圳龍華廠的女工,非本文當事人。 圖/路透社

她的工廠不造夢:一位富士康流水線的女大學生打工史

2022/11/25
馬來西亞導演劉國瑞第一部劇情長片《白日青春》講述兩代香港難民的故事,入圍今年金馬...

香港,異鄉人眼裡的異鄉人:專訪《白日青春》導演劉國瑞

2022/11/18
2011年11月,日本兵庫縣警方在尼崎市的一處倉庫裡發現一具女屍,遺體被塞在大型...

吞噬家族的「寄生殺人」:日本尼崎連續怪死事件

2022/11/17

最新文章

圖為2022法蘭克福書展西班牙國家館,本屆書展主題國為西班牙,國王菲利普六世(F...

當我們「共讀時代」:最壞的2022年?法蘭克福書展參展記

2022/12/02
左起:2015年的非洲時尚週男模、1919年的三件式舊時代男裝風格、18至19世...

西服男子之必要?從優雅到實用的《古典男裝全圖解》

2022/11/28
圖/報系資料圖庫

移工怎麼都在直播?專訪江婉琦與她的東南亞移工生活側寫

2022/11/25
圖為富士康深圳龍華廠的女工,非本文當事人。 圖/路透社

她的工廠不造夢:一位富士康流水線的女大學生打工史

2022/11/25
梨泰院罹難者家屬與律師,除了要求尹錫悅總統公開道歉之外,並呼籲落實真相調查與究責...

為梨泰院請命:悲泣無助的遺族…能得到合理究責嗎?

2022/11/23
2022年5月14 日,懷孕7個月的女子在華盛頓最高法院外參加示威抗議。
 圖...

墮胎權沒被遺忘:美國期中選舉後,反性別暴力倡議者的第一手觀察

2022/11/22

回應

Top