研究发现TikTok算法散播自杀和节食内容

【大纪元2022年12月15日讯】(大纪元记者陈霆综合报导)周三(12月14日)发表的一份报告(链接)指出,TikTok的算法正向青少年推广自残、自杀和饮食失调的相关内容。研究者警告,这对青少年心理健康造成了严重的伤害。

非营利组织“反数字仇恨中心”(Center for Countering Digital Hate,CCDH)的研究人员分别在美国、英国、加拿大和澳大利亚,创建了两名虚构青少年的TikTok账户。两个账户都使用了女性的名字,但第二个账号除了名字之外,还加上了“减肥”(loseweight)这串字符。

研究人员表示,过去有报告(链接)表明,有“身体臆形症”(body dysmorphia,又称身体畸形恐惧症、体象障碍)的使用者,常可通过他们的用户名来辨别。因此在分析中,用户名包括了“减肥”的案例被分类为“脆弱”账户。

随后,操作这些账户的研究人员“点赞”了有关自残和饮食失调的视频,看看TikTok的算法会如何反应。

结果在几分钟之内,该平台就开始推荐用户有关减肥和自残的视频,包括模特和理想体态的图片、剃须刀的图像,以及有关自杀讨论的视频等。

报告指出:“这些账户平均每39秒,就会收到一则有关心理健康和身体形象的视频,提及自杀的内容,在2.6分钟之内就开始发送给用户。饮食失调内容在8分钟内,即开始发送给用户。”

研究人员还发现,用户名包括“减肥”的账号们,被提供了更多有害内容。研究人员认为,这显示对饮食失调有特殊脆弱性的青少年们,可能遭受了更严重的伤害。

该报告指出:“脆弱账户收到的有害内容,比标准账户多了3倍。他们获得的自残和自杀视频,比标准账户多12倍。”

CCDH首席执行官阿迈德(Imran Ahmed)说:“这就像被困在一个装满扭曲镜子的大厅里,不断有人告诉你:你很丑,你不够好,也许你应该自杀。”

“它实际上是在向年轻人灌输最危险的信息。”阿迈德说。

社交媒体的算法,是通过识别用户感兴趣的话题和内容,然后向用户发送更多相似内容,以延长他们在平台上的时间。批评者认为,算法可能把用户推入有害内容的漩涡中。

阿迈德说:“TikTok的设计是为了让年轻人的用户眼花缭乱,让他们放弃他们的时间和注意力,但我们的研究证明,它的算法不仅是在娱乐儿童,还毒害了他们的思想。”

“它助长了孩子们对自己身体的憎恨、对自残的极端暗示,以及对食物无序、可能致命的态度。”他说。

在TikTok发言人的一份声明中,该公司对这些发现提出异议。他们认为,研究人员没有像典型用户那样使用平台,结果因此出现偏差。该公司还宣称,用户名不会影响收到的内容。

TikTok禁止13岁以下的用户登录,其官方规则禁止鼓励饮食失调或自杀的视频。美国用户在TikTok上搜索有关节食的内容时,会收到一个警讯,并提供心理健康资源和全国饮食失调协会的联系信息。

尽管如此,但CCDH研究人员发现,有关饮食失调的内容在TikTok上仍被浏览了超过一百亿次。

阿迈德表示,TikTok向青少年提供大量有害内容表明,平台自律已失败,他呼吁制定联邦规则,迫使该社交媒体做更多工作来保护儿童。

责任编辑:叶紫微#