親愛的網友:
為確保您享有最佳的瀏覽體驗,建議您提升您的 IE 瀏覽器至最新版本,感謝您的配合。

當螢幕裡只有絕望:一名英國少女如何被「演算法殺死」?

2022/10/14 轉角說

一名14歲的英國少女茉莉(Molly Russell)於2017年在家中自殺身亡...
一名14歲的英國少女茉莉(Molly Russell)於2017年在家中自殺身亡,茉莉的父母發現女兒在生前大量瀏覽社交平台上跟自殺、憂鬱有關的新聞。經過五年的調查,英國法院認定將其死因「直接歸咎於」社交媒體。 圖/影片截圖

2017年11月,一名14歲的英國少女茉莉(Molly Russell)在家中自殺身亡。茉莉的父母難過且震驚不已,他們回溯,責怪自己是否忽略了茉莉的求救訊號?是否沒有察覺到茉莉的情緒變化?他們事後在茉莉的手機裡發現可能導致茉莉輕生的線索:自殺前的幾個月,茉莉在Instagram存下2,100則跟自殺、自殘和憂鬱內容有關的貼文;在她使用的Pinterest平台裡,也存下469則相關負面內容。

在社交平台的世界裡,一旦搜尋或瀏覽過相關內容,演算法就會向用戶推播源源不絕的相關內容——即便這一些都是負面的貼文。因此,這意味著有憂鬱症的茉莉在搜尋相關負面內容後,就會跌入演算法的黑洞裡,無可避免地大量接觸這一些讓自己身心承受嚴重影響的貼文內容。

經過五年的調查,驗屍官也在9月30日表示,僅僅將茉莉的死因歸咎於自殺並不安全(safe),他裁定「茉莉是在遭受憂鬱症和網路內容的負面影響後,死於自殘行為。」

▌請收聽下方連結:

這次判決是英國第一宗官方認定將死因「直接歸咎於」——而不是有關聯——社交媒體的青少年自殺案例。驗屍官認為茉莉在網路上瀏覽的內容並不適合14歲的年紀,而患有憂鬱症的茉莉在接觸大量的負面內容後,最終導致她選擇結束自己的生命。

茉莉死後,她的家人成立了「茉莉玫瑰基金會」(Molly Rose Foundation),希望協助25歲以下族群的生命教育, 幫助他們擺脫網路負面內容。茉莉的父親伊恩(Ian Russell)也積極呼籲政府推動《網路安全法》,要求社交平台必須保護青少年免受網路負面內容的傷害。

由此延伸的重要問題也是:在兒童和青少年面前,社交媒體巨頭需要附上什麼責任,尤其如何確保與建立一個更安全的網路環境?此次出庭的Instagram和Pinterest代表分別又說了什麼?

在青少年面前,社交媒體巨頭需要附上什麼責任,尤其如何確保與建立一個更安全的網路環...
在青少年面前,社交媒體巨頭需要附上什麼責任,尤其如何確保與建立一個更安全的網路環境? 圖/法新社

▌死亡演算法

茉莉出生於倫敦西部,生長於一個幸福美滿的家庭。在家人的眼裡,14歲的茉莉積極、開朗聰明,她喜歡音樂劇《漢彌爾頓》、喜歡澳洲樂團到暑五秒(5 Seconds of Summer)、喜歡哈利波特,同時也擔任學校表演的主角。從外觀上看來,茉莉就如同同齡的青少年一樣,有相似的興趣和愛好。

儘管如此,伊恩似乎也有察覺女兒有一些變化:茉莉變得比較沉默寡言,在房間的時間裡也越來越長。不過看著茉莉也有參與家庭活動,伊恩也就把女兒的行為歸結於青少年階段會經歷的情緒波動。2017年9月,伊恩也開口告訴茉莉,家人很擔心她的狀況,但茉莉也僅僅表示「這是我正在經歷的一個階段(just a phase I’m going through)。」

同年11月20日,茉莉和家人吃完晚餐後,一起觀賞在英國備受歡迎的電視節目《我是名人,救我出去!》(I’m a Celebrity … Get Me Out of Here!),結果就在隔天早上7點,家人打開茉莉的房門後,發現她已經自殺身亡。對茉莉家人而言,她的死「毫無預警」,且茉莉在最後一頓晚餐上,也「毫無異樣」,這讓伊恩開始調查女兒的可能死因,並從她在社交媒體上瀏覽過的內容發現了一個他不曾想像過,但茉莉生前正在經歷的黑暗世界。

茉莉生前較常瀏覽的社交平台是Instagram和Pinterest。在調查過程中,伊恩發現茉莉在自殺前的6個月瀏覽了大量令人不安和絕望的內容。根據《衛報》整理,茉莉在Instagram平台上儲存、點贊和分享約16,300則有關圖像、文字和影片的貼文,其中的2,100條與自殺、自殘和憂鬱有關。此外,茉莉也在Pinterest平台上儲存與自殘和自殺有關的469張圖片,並且將之命名為「沒什麼好擔心的」。

圖非當事人。伊恩開始調查女兒的可能死因,並從她在社交媒體上瀏覽過的內容發現了一個...
圖非當事人。伊恩開始調查女兒的可能死因,並從她在社交媒體上瀏覽過的內容發現了一個他不曾想像過,但茉莉生前正在經歷的黑暗世界。 圖/美聯社

這一些負面內容影響有多大?茉莉生前曾在Instagram上瀏覽過138支和自殘和自殺相關的影片,一名兒童心理諮詢師在聽證會上就形容自己在看了這一些影片後,有好幾個星期都難以入睡,也有人指出影片根本難以完整看完。而部分影片內容也在聽證會上重複播放,試圖讓在場的人了解到伊恩的所言與所感:持續接觸負面內容後,對身心造成的嚴重影響。

伊恩指出茉莉瀏覽的內容是一個他不認識的網路世界,「一旦陷入其中,就意味著它會不斷向你推薦更多相關內容,你逃不掉的。」例如,茉莉在Pinterest上搜尋憂鬱症的相關內容後,Pinterest還主動向茉莉推薦「10個你可能喜歡的憂鬱症別針」(10 depression pins you might like)。

英國預防青少年自殺的組織Papyrus首席執行官Ged Flynn就告訴《BBC》,許多有自殺念頭的年輕人會試圖在網路上了解「我是唯一一個有相同感覺的人嗎?」,然而當他們越這麼做,網路上的演算法就會越推播與自殺、自殘相關的內容給他們。這意味著,演算法的設計與規則,讓茉莉主動地、被動地被大量的負面內容包圍。

茉莉的死也引起英國威廉王子夫婦的關注。圖為2019年,威廉王子夫婦與茉莉的父親伊...
茉莉的死也引起英國威廉王子夫婦的關注。圖為2019年,威廉王子夫婦與茉莉的父親伊恩(右)在一場活動中見面。 圖/美聯社

此外,從茉莉在Twitter抒發心情的推文裡,也可發現她的身心如何一步步被侵蝕(茉莉花在Twitter上的時間較少,因此Twitter代表並沒有在此次出庭)。《BBC》報導,茉莉生前在Twitter的帳號名為「Idfc_nomore」,伊恩認為命名的由來是:我他媽的不在乎(I don't fucking care nomore)。

茉莉第一張發布在Twitter的圖片是一個女孩仰望著夜晚的星空,上面寫著「我已經準備好成為其中一顆星星了」(I'm ready to become one of the stars)。2017年2月4日,茉莉首次在推特上寫道:「我不需要被拯救(saved),我需要被找到(found)。」她也分享了一則似乎是從Pinterest截圖而來的圖片,內容大意為:即便有漂亮的家,漂亮的衣服,衣食無憂,但不代表這個人就不會受憂鬱或焦慮所苦,不會任何問題。

或許,茉莉生前將自己的憂鬱症隱藏得很好,但她也曾試圖求助過,只是求助的方向錯了。茉莉在Twitter的自介欄位上寫著「哈利波特是生命」,其實她曾求助於哈利波特的作者JK羅琳,她告訴JK羅琳自己充滿想要自殺的念頭,但她的求救訊號淹沒在JK羅琳帳號的1,390萬粉絲之中。或者,茉莉也曾向自己喜歡的影星求助,但一樣石沉大海。

綜合以上因素,這也是為何法院最終將茉莉的死「直接歸咎於」社交媒體上的原因——尤其,部分的貼文也呈現浪漫化自殺或自殘行為的內容,有些甚至將之包裝成一種藝術、創意的形式呈現在用戶面前。——那麼,面對茉莉的死,社交媒體的代表們怎麼說?

伊恩指出茉莉瀏覽的內容是一個他不認識的網路世界,「一旦陷入其中,就意味著它會不斷...
伊恩指出茉莉瀏覽的內容是一個他不認識的網路世界,「一旦陷入其中,就意味著它會不斷向你推薦更多相關內容,你逃不掉的。」 圖/法新社

圖非當事人。 圖/美聯社
圖非當事人。 圖/美聯社

▌Instagram和Pinterest怎麼說?

Instagram母公司Meta的代表伊麗莎白(Elizabeth Lagone)和Pinterest社群營運負責人賈德(Jud Hoffman)皆親自出席聽證會。

在聽證會上,伊麗莎白為Instagram辯護,她指出部分關於憂鬱症和自殺的貼文內容適合青少年瀏覽,因為這一些貼文內容試圖提高用戶對自身心理狀態的意識,同時他們也在分享自己的感受。然而茉莉家人的辯護律師也質疑:怎麼會指望一個14歲的孩子能分辨這一些貼文的用意,例如這到底可以提高用戶對自我心理狀態的意識,還是反而會美化和鼓勵用戶做出自我傷害的行為?

對此,伊麗莎白也道歉,表示茉莉瀏覽過的部分貼文內容確實違反了Instagram平台守則。而賈德則回應Pinterest依然不完美,違反平台政策的內容至今可能還存在,他對茉莉所看到的內容感到深感遺憾。

茉莉的離去,讓伊恩意識到網路環境對兒童和青少年的身心影響。他呼籲英國政府盡快通過網路安全法保護青少年,同時也表示希望茉莉案子所得到的關注和檢視,有助於防止類似的悲劇再度發生,「如果這一些令人窒息、瘋狂的內容是安全的,我的女兒茉莉可能還活著,我們不會是失去親人的一家四口,而是我們五個人都會期待我們可愛茉莉的未來,一個充滿目標和承諾的生活。」

也是在聽證會結束後,伊恩再次向女兒茉莉致意,說道:「在一點上,我只想說無論這看起來有多麼黑暗,但總有希望。如果你正在掙扎(struggling),請與你信任的人或者許多提供援助的出色組織聊聊,而不是參與可能有害的網路內容。請盡你所能,活得長久,保持堅強。」

「我想說的最後一件事是感謝茉莉,謝謝你成為我的女兒。謝謝你。」

「我想說的最後一件事是感謝茉莉,謝謝你成為我的女兒。謝謝你。」 圖/美聯社
「我想說的最後一件事是感謝茉莉,謝謝你成為我的女兒。謝謝你。」 圖/美聯社

自殺,不能解決難題;求助,才是最好的路。求救請打1995 ( 要救救我 )


收看更多文章,請訂閱轉角國際facebook專頁:

推薦閱讀

臉書缺德又怎樣?FB吹哨者的國會證詞與「屠龍諫言」大戰

一級玩家祖克伯?FB集團更名「Meta」的爭議大戰略

嘲諷習近平的網路樹洞?從「可惜不是你」到「該死的不死」

轉角說

轉角國際編輯台:「在國際新聞之後,讀懂新聞;世界趨勢之前,掌握趨勢。」

作者文章

黃惠貞的建議,是家長和孩子一起閱讀描寫納粹相關的書籍,一起去理解納粹的行為,「那...

如果青少年愛上希特勒?高中教師的教育現場觀察

2024/03/08
製圖/現流冊店

講座後記/飛機上的救命學:羽田機場日航事故的調查與啟示

2024/03/07
以色列極端正統猶太教徒「哈雷迪」3日上街抗議徵兵制。圖為以色列女兵強制驅離哈雷迪...

寧可入監,不要入伍?加薩戰爭下,以色列極端正統猶太教徒的從軍爭議

2024/03/06
現役美國空軍布許奈爾在以色列大使館前自焚,表示不願再支持以色列「種族滅絕」。圖為...

國家與個人信念的衝突難題:美軍自焚抗議事件,軍人身分的認同矛盾

2024/02/27
左為15世紀的龍騎士團徽章,右為15世紀的瓦拉幾亞大公——伏拉德三世,因其父是龍...

吸血鬼與龍之子:德古拉伯爵的歷史原型,「穿心魔」伏拉德三世

2024/02/07
諾貝爾和平獎得主尤努斯1日遭孟加拉法院判刑,尤努斯以扶助貧困者的「微型金融」事業...

「窮人銀行家」遭判刑:諾貝爾和平獎得主尤努斯,與孟加拉總理的權力鬥爭

2024/01/04

最新文章

懷抱電影夢的北韓前領導人金正日,為了北韓電影現代化,1978年綁架了南韓女星崔銀...

北韓特攝秘聞:金正日綁架導演,強拍怪獸電影《不可殺 傳說的大怪獸》

2024/03/28
日本知名的森永乳業,在2024年3月初時確定「瓶裝牛奶」將在3月底時全面停售、未...

日本錢湯「瓶裝牛奶」並沒有消失:森永乳業停產風波

2024/03/26
左為創辦太古集團的施懷雅家族第二代約翰.森姆爾.施懷雅;右為如今太古集團在香港總...

太古集團與近代中國:從「糖」在香港發跡的英國商業帝國

2024/03/26
美國將民間發現的琉球王國文物歸還給沖繩,包含第二尚氏王朝第18代國王尚育王的畫像...

美國返還沖繩的國王「御後繪」:琉球王國文化財的顛沛流離

2024/03/26
動漫畫與遊戲創作中的「幼體」,也適用《兒少福法》與《兒少性剝削防制條例》嗎?虛擬...

裁判吧!當ACG情色要素碰上刑法學,從iWIN事件談起

2024/03/22
菲律賓阿吉納爾多營人民力量革命紀念館展出戒嚴受害者資料。1986年2月22日在天...

讓正義如河水,永不止流:菲律賓人民力量革命38週年紀念側記

2024/03/22

回應

Top