欢迎访问:当算法促进自我伤害发生时,谁该来负责?_精致生活网
  • 微信客服微信客服
  • 微信公众号微信公众号

当算法促进自我伤害发生时,谁该来负责?

收藏  分享
cnbeta1372

当算法促进自我伤害发生时,谁该来负责?

当14岁的莫莉·拉塞尔(Molly Russell)在2017年去世时,她有自残的照片,以及“你可能会喜欢的抑郁症别针”的电子邮件摘要和对亲人隐瞒精神疾病的建议。调查人员最初判断这名英国少年的死亡是自杀。但近5年后,英国验尸官法庭推翻了这一结论。

现在,他们说拉塞尔死于抑郁症和在线内容的负面影响时的自残——算法本身也受到了关注。

这不是第一次技术和自杀在高调的案件中发生碰撞,从而推动了科学和法律的界限。这肯定不会是最后一次。越来越多的研究表明,社交媒体平台在用户的抑郁、身体形象问题和其他心理健康挑战方面发挥了作用。据《纽约时报》报道,尽管迄今为止大多数案件都集中在使用网络欺凌平台的个人身上,但对拉塞尔死亡的调查标志着“或许是第一次有互联网公司在任何地方被合法指控自杀”。

然而,英国的裁决并不一定意味着社交媒体公司要承担责任。首先,验尸官法庭不能进行处罚。meta和Pinterest的高管被迫作证,但没人付钱,更别说坐牢了。更重要的是,现有的将心理健康问题与社交媒体平台联系起来的研究大多取决于X和Y的变化,但很难说其中一个会导致另一个。与社交媒体相关的自杀事件的明确责任仍然遥不可及。

毕竟,莫莉·拉塞尔不是唯一一个可以通过法庭授权的细微差别来确定死因的人。每年有650万人死于空气体污染还是化石资本?心脏病是美国人死亡的主要原因还是贫穷的循环?对此,在一长串相关斗争中,哪种自杀不是自残行为?

如何回答这些问题很重要。但在美国,此类案件的未来取决于法官和陪审团是否愿意与越来越长的因果关系链作斗争。这也将迫使立法者和他们的选民做出不舒服的选择。大胆一跳,超越现有的自杀科学或者不耐烦地等待新的结果。

如果你需要说的话。鼓励自杀是不好的,无论它来自学校的恶霸、匿名账户还是你的新闻源,但这并不意味着它是非法的。

2006年,密苏里州一位名叫劳丽·德鲁的母亲和她的员工创建了一个假的MySpace账户,伪装成一个名叫梅根·梅尔的小男孩。Drew用这个账号和她13岁的邻居Megen Meier通话。德鲁认为梅尔散布关于德鲁自己十几岁女儿莎拉的谣言。起初,这条信息是挑逗性的,但最终“乔希·埃文斯”据说告诉梅尔,“没有你,世界会变得更好”。不久之后,迈尔去世了。

甚至在假MySpace账号的消息传出后,当地警方也拒绝逮捕德鲁。迈尔夫妇从未对她提起民事诉讼。当洛杉矶的美国检察官办公室根据1986年的《计算机欺诈和滥用法案》( CFAA)对Drew提出联邦指控时,该案件陷入了困境。德鲁最终以自由球员的身份离开了。

下一次这些问题在美国出现时,情况会有所不同。2014年,马萨诸塞州18岁的康拉德·罗伊自杀身亡。他的手机显示了他与女友米歇尔·卡特多年的对话,女友多次通过短信催促他自杀。罗伊去世时,卡特只有17岁。后来,他在少年法庭被判过失杀人罪,服刑11个月。

佛罗里达大学政治理论家马克·图尼克表示,根据媒体对卡特行为的报道,惩罚她是合理的。然而,在《短信、自杀和法律》中,图尼克认为马萨诸塞州的两种过失杀人罪——不作为(或未能干预)和行动(鲁莽伤害)——不适用于卡特。首先,这个少年并不像他的父母或者医生一样有保护罗伊的责任。更重要的是,法庭无法证明卡特导致了罗伊的死亡。

许多法律理论家或多或少同意这一观点。在美国法院,原因的问题通常由“如果没有”的检验来决定。由于自杀在传统上被视为个人的自愿行为,法院通常认为在那些决定性的最后时刻,任何其他因果链都会被打破。卡特可以发所有她想发的短信,但在这种思维方式下,真正的“如果不”是罗伊自己的行为。

社会传染的力量使自杀的个人责任概念变得更加复杂。纽约州精神病学研究所的社会流行病学家大卫·芬克(David Fink)表示,可能是个人行为,但自杀是“大多数情况下的一种社会疾病”。在不同的时间和文化中,方法和原因有很大的不同。经济因素似乎对自杀率有着深远的影响。现在,医生和科学家正在试图解决社交媒体在传播有害思想方面的作用。

至少自20世纪70年代以来,流行病学家已经表明,暴露于自杀——无论是朋友或家庭成员的死亡还是通过大众媒体——都会增加一个人产生自杀想法或行为的风险。在这种情况下,指责个人是适得其反和不完整的。

然而,研究人员一直试图确定这些想法传播的明确机制。不列颠哥伦比亚大学的社会学家Seth Abrutyn说,部分问题归结于研究人员可用的方法。

该领域的一端是聚集在亲密关系中的自杀,例如在被监禁的人、高中生和美国土著青年中形成的自杀。为了找出社区中的一起自杀事件是否以及如何引发其他自杀事件,像Abrutyn这样的研究人员对那些仍然活着的人进行了深入采访。他们发现,自杀思想和行为的传播,与其说是“感染”,不如说是教育。就像学习下棋或抽烟一样,自杀而死的人似乎教会了周围的人一种新的方式去思考他们的苦恼,自杀的手段等等。

另一端是威力较小但在更广的网络中传播的自杀,比如名人自杀后的情况。通过统计方法对这种情况进行研究,并寻找基于特定年份数据的预期自杀人数的波动。例如,在演员罗宾·威廉姆斯自杀后的几个月里,研究人员发现自杀人数比预期高出10%——这可能是媒体广泛报道的结果。

然而,这两种方法不足以回答一些关于自杀的最基本的问题。采访受到自我报告准确性的限制,自杀小组中的许多人已经不在人世,无法分享他们的故事。虽然统计方法可以证明fico,即关于自杀的叙述是重要的,但它们没有提供多少关于如何改变这些信息以使其更好的见解。

近年来,很明显,社交媒体位于这两个既定的极端之间,填补这一灰色区域所需的数据属于那些想要掩盖其对用户影响的公司。尽管抖音、Instagram、脸书、推特等平台已经明确表示,他们的目标是促进远距离的近距离接触,但他们不愿对其后果进行任何独立的分析。这使得实际上不可能研究数字网络上的自杀感染。

自杀科学家也知道,试图将自杀归咎于他人可能会适得其反。Abrutyn的研究表明,我们谈论自杀的方式本身就是一种载体。2019年,在一项对青少年自杀频繁的社区的研究中,Abrutyn和他的同事们表明,将这些死亡合理化为学生“逃避”诸如“学校压力”等问题的愿望,似乎让其他面临类似挑战的学生知道自杀也是他们的一种选择。

很容易将这一逻辑推广到罗素的案例中。如果大家都认同被压抑的社交媒体帖子可以促使一个人自杀,那么就有理由让更多的人为此而死。但出于同样的原因,Abrutyn表示,正确的叙述也可以降低自杀想法或行为的风险。寻找方法谈论个人和社区的恢复能力,为那些试图解决自杀想法的人提供资源,实际上可以起到保护作用。

也许人们永远无法让所有人都相信社交媒体导致了莫莉·拉塞尔或其他任何人的死亡。但这并不意味着我们不能试图阻止未来的伤害。

在美国,鼓励自杀的言论可以通过新的立法明确禁止。尽管学术界对这一课题的研究还处于起步阶段,但律师尼古拉斯·拉帕尔梅(Nicholas LaPalme)提出了一个新的框架,名为“压倒性意志”。这个标准将认识到像卡特这样的强大的人在他们的受害者已经在与抑郁症作斗争的时候能够说出怎样的话。如果法院承认一个人可以压倒另一个人的意志,那么因果关系链就可以保持完整,“因为受害者当时没有心理能力去选择”抵制对方的言语。

抛开“心智能力”和自主性这两个有争议的问题不谈,“压倒性意志”的框架可以很容易地扩展到像罗素那样的案例。10年前,人们很容易将脸书这样的网站视为一个中立的工具,被个人用户吐槽为好或坏。现在,当然,人们可以说算法平台压倒了用户的意志,因为它找出了他们的弱点,并为他们提供了让他们参与更多,感觉更差的内容。

问题是,美国人愿意生活在这样的法律影响下吗?如果这种类型的内容是非法的,平台将需要设计方法来证明他们的算法不会将用户推向更深的抑郁和自杀。但重要的是要承认,这些公司可能会使用更多的算法来清除他们平台上任何潜在的犯罪内容。东伦敦大学数字文化研究员托尼·d·桑普森(Tony D. Sampson)说,“算法不能很好地处理灰色区域。”所以无论生产什么样的滤镜,都会很粗糙;如果禁止所有与自杀有关的内容,像这样的文章可能就通不过了。不深入了解自杀传播的机制,就没有真正的办法让这些工具更加精准。

鉴于这些限制,立法可能更好地专注于迫使社交媒体公司重新设计其推荐系统,并逐步从搜索中删除有害内容——而不是对这些帖子的所谓后果进行刑事定罪。最重要的是,政府还必须迫使社交媒体公司将数据交给独立的研究人员,这些研究人员可以利用他们的发现来指导更精确的内容禁令,甚至可能决定这些平台可以支持那些与自杀想法或行为作斗争的用户的积极方式。

将迈尔、罗伊和拉塞尔的死政治化可能有很大的价值——但前提是他们能帮助处于类似情况的人。目前,为知情对话收集必要的证据可能更有帮助。

 
更多>最新的资讯
推荐图文
推荐资讯
点击排行