互联网能为儿童提供安全保障吗
Posted: Mon Jan 20, 2025 10:15 am
这是一种与（数字）时代一样古老的舞蹈。面对挑战时，政客们会寻找替罪羊来为复杂的问题负责，并提出看似简单的解决方案来解决不可能的问题。恐怖袭击？停止加密。民粹主义兴起？停止假新闻。暴力犯罪增加？电子游戏是罪魁祸首。青少年自杀？规范社交媒体。
英国卫生大臣马特·汉考克成为新闻焦点要求社交媒体整顿其行为，否则将会受到监管。他写道：
“令人震惊的是，现在仍然可以如此轻松地在网上获取[有害]内容，我毫不怀疑这些内容会造成危害，尤其是对年轻人。现在是互联网和社交媒体提供商站出来一劳永逸地清除这些内容的时候了。”
他呼吁民众关注青少年莫莉·拉塞尔自杀的悲剧，她的父母声称因为 Instagram 自杀。拉塞尔关注了一些发布令人沮丧内容的账户，他们称这些内容鼓励自杀和自残，比如“我恨我自己”、“这个世界太残酷了，我不想再看到它了”和“你有没有因为你是你而哭过？”之类的信息，或者像这样的图片：
家长和马特·汉考克等人的主要论点是，这些图片太容易获取，看到#自我伤害、#抑郁和#自杀等标签很容易产生过度的图片，这些图片往往直接或间接地鼓励有害行为，而展示这些图片会使脆弱的青少年更容易自残。所以我们被告知社交媒体必须立即采取行动，删除有害内容，保护儿童。谁会反对这样的观点？难道没有人会想到孩子们吗？
报告工具已经可用
虽然我完全同情抑郁症患者及其家人的困境，并同意青少年和儿童经常会接触到鼓励自残和自杀的图像，但我不认为这是一个简单的问题，可以通过改变法规或立法轻松解决。
首先，某些圈子里，尤其是新闻界，有这样一种观点，即社交媒体是一个不受 意大利手机数据 监管的空间，什么都可以做，大量有害内容很容易获取。事实上，公司已经在内容审核上花费了数百万美元， 冗长的规则手册决定哪些内容应该被过滤掉。同样，Instagram 等平台已经允许用户举报内容，或者让系统知道某人可能参与了可能导致伤害的行为。当你搜索一些可能有问题的标签时，你会收到以下消息：
其次，删除所有有害内容非常困难，因为涉及的内容量太大。上传的视频长达 300 小时每分钟就有 1000 万人在 YouTube 上发布内容。Instagram 用户每天上传 4 亿个故事和5200 万张图片。审核如此大量的内容是不可能的，虽然公司可以尝试使用机器进行部分审核（他们已经在某种程度上这样做了），但这会产生比它们值得的更多的问题，因为合法内容总是有可能被自动删除。
最后，人们似乎对互联网的运作方式以及问题的真正所在存在严重误解。Snapchat 是青少年中最受欢迎的社交媒体，这可能对监管造成极大困难，因为监管机构可能试图解决错误的技术问题。如果明天 Pinterest 和 Instagram 上的每一张有害图片都能被神奇地删除，那么仍然会有其他渠道，甚至还会有其他甚至还没有被发明出来的渠道。问题在于将 Instagram 上的图片视为原因，而不是症状。是什么驱使青少年自残？可能是多种原因的结合，但很可能当有人搜索“#自杀”这样的主题标签时，这个人的生活中已经出了问题，而这很可能不是由 Instagram 帖子引起的。
英国卫生大臣马特·汉考克成为新闻焦点要求社交媒体整顿其行为，否则将会受到监管。他写道：
“令人震惊的是，现在仍然可以如此轻松地在网上获取[有害]内容，我毫不怀疑这些内容会造成危害，尤其是对年轻人。现在是互联网和社交媒体提供商站出来一劳永逸地清除这些内容的时候了。”
他呼吁民众关注青少年莫莉·拉塞尔自杀的悲剧，她的父母声称因为 Instagram 自杀。拉塞尔关注了一些发布令人沮丧内容的账户，他们称这些内容鼓励自杀和自残，比如“我恨我自己”、“这个世界太残酷了，我不想再看到它了”和“你有没有因为你是你而哭过？”之类的信息，或者像这样的图片：
家长和马特·汉考克等人的主要论点是，这些图片太容易获取，看到#自我伤害、#抑郁和#自杀等标签很容易产生过度的图片，这些图片往往直接或间接地鼓励有害行为，而展示这些图片会使脆弱的青少年更容易自残。所以我们被告知社交媒体必须立即采取行动，删除有害内容，保护儿童。谁会反对这样的观点？难道没有人会想到孩子们吗？
报告工具已经可用
虽然我完全同情抑郁症患者及其家人的困境，并同意青少年和儿童经常会接触到鼓励自残和自杀的图像，但我不认为这是一个简单的问题，可以通过改变法规或立法轻松解决。
首先，某些圈子里，尤其是新闻界，有这样一种观点，即社交媒体是一个不受 意大利手机数据 监管的空间，什么都可以做，大量有害内容很容易获取。事实上，公司已经在内容审核上花费了数百万美元， 冗长的规则手册决定哪些内容应该被过滤掉。同样，Instagram 等平台已经允许用户举报内容，或者让系统知道某人可能参与了可能导致伤害的行为。当你搜索一些可能有问题的标签时，你会收到以下消息：
其次，删除所有有害内容非常困难，因为涉及的内容量太大。上传的视频长达 300 小时每分钟就有 1000 万人在 YouTube 上发布内容。Instagram 用户每天上传 4 亿个故事和5200 万张图片。审核如此大量的内容是不可能的，虽然公司可以尝试使用机器进行部分审核（他们已经在某种程度上这样做了），但这会产生比它们值得的更多的问题，因为合法内容总是有可能被自动删除。
最后，人们似乎对互联网的运作方式以及问题的真正所在存在严重误解。Snapchat 是青少年中最受欢迎的社交媒体，这可能对监管造成极大困难，因为监管机构可能试图解决错误的技术问题。如果明天 Pinterest 和 Instagram 上的每一张有害图片都能被神奇地删除，那么仍然会有其他渠道，甚至还会有其他甚至还没有被发明出来的渠道。问题在于将 Instagram 上的图片视为原因，而不是症状。是什么驱使青少年自残？可能是多种原因的结合，但很可能当有人搜索“#自杀”这样的主题标签时，这个人的生活中已经出了问题，而这很可能不是由 Instagram 帖子引起的。