开发商Roblox Corporation最近推出了一种新的面部扫描功能，作为在其游戏创作平台Roblox上增加儿童安全保护的一种方式。首席执行官David Baszucki对这一举措非常兴奋，在一个关于年龄门控技术的新播客中给出了一些相当激烈和有问题的答案。
Baszucki与《纽约时报》记者Casey Newton和Kevin Roose就他们的Hard Fork播客中的一集进行了交谈。这三个人在11月21日发表了一篇文章，进行了广泛的对话，从面部扫描功能开始，转移到数据的误称，并在关于使用人工智能进行节制的意见上达到顶峰。Newtown以一项关于Roblox上捕食者问题的调查开始，Baszucki说这是一个好的和坏的困境。
“我们认为这不仅仅是一个问题，也是一个机会，”他说。“我们如何让年轻人一起建立、交流和交往？我们如何同时构建通信的未来？所以我们，你知道，我们一直，我认为是以一种好的方式，从一开始就在做这件事。当我们——这是大约18或19年前——当我们第一次创办公司的时候，我们只有四个人坐在一个房间里，我们实际上是主持人， 就像我们会一直旋转一样。"
Baszucki继续说，随着Roblox的规模增长，该公司决定“最新的技术”(即“使用人工智能进行面部年龄估计”)是它希望补充其调节工具的东西。他提到文本过滤器作为一个例子，特别是因为聊天者倾向于使用“hashtag，hashtag，hashtag”和其他关键字技巧来绕过系统。
“有了人工智能，这些过滤器变得越来越好，”Baszucki说。“我们现在所处的状态主要是阻止试图打开过滤器的敌对行为，以及试图分享PII(个人身份信息)的敌对行为，我们在这方面也越来越好。关于年龄估计， 我想说的是，只是最近成熟到了我们可以对其进行补充的程度。但我要说，我们的策略总是与现有的任何技术互补，将它们结合在一起。"
不久，这三个人就开始互相打断，插入一些陈述和问题来帮助对方。Baszucki在最近的诉讼中“断然拒绝”这一说法，该诉讼声称捕食者使用Roblox寻找孩子。他表示，与其他在线社交平台相比，该平台正在“进行令人难以置信的创新工作”，并重申该公司正在“不断改善”保护儿童在游戏中聊天的能力。
“让人们能够交流有巨大的好处，我们认为我们看到了这些好处，”Baszucki解释说。“很多孩子在Roblox上找到了自己的小伙伴。事实上，有很多孩子感到孤独或孤立——我不会把它作为借口或任何东西——但我接到很多著名父母的电话，他们说，‘看， 如果不是在Roblox这样的平台上找到一个社区来保持联系，我的孩子可能已经死了。我还想说，我们确实把为那些不成熟的家长设计视为巨大的责任，他们走进去说，‘看， 我要关掉你可以和谁聊天的功能。我们必须为所有的父母设计，并想通这一点。但是我们确实相信我们有非常好的技术。我们认为这是建立这种体验的一部分。你知道，如果你去游戏领域，我认为支持交流是很常见的。其他游戏我就不列举了。通常，我会说，我们远远超出了我们的创新水平，责任水平， 无论是过滤，图像分享，还是所有这些事情。"
在围绕1.5亿日活跃用户进行了更紧张的交流之后Baszucki声称现在“自我报告说几乎有三分之二超过13岁”——Roose询问了兴登堡研究公司2024年10月关于该公司涉嫌以利润为名忽视儿童安全的调查结果。他转移了话题，转而选择关注维权基金“出于某种原因倒闭”的事实 问主持人他们自己是否研究过这些信息。他随后回应说，人工智能正在让一切变得更好。
“所以这真的很有趣，因为我认为我们正在进入一个越来越好的状态，”Baszucki说。“但你会问一个从手工制造汽车的超体力劳动者转换到装配线的人同样的情况吗？装配线可能会好得多，同时也不会有那么多人。所以，我认为他们指的是越来越多越来越多的移动到人工智能，可以说， 让人工智能系统审查每一幅图像、每一段文字，还是继续手动进行，这种做法更好？所以我认为这是用词不当。我认为，如果你采访我们安全团队或安全系统中的任何人，那将只是使我们的系统变得更好的一部分。"
正是在这一点上，Baszucki的情绪变得有点慌乱——尽管不是“沮丧”，正如他在多个场合所说的那样——因为他显然与Newton和Roose击掌庆祝，以“配合”该公司使用人工智能工具进行内容审核的决定，并“支持我们的Roblox决策矩阵”。
“这是一次秘密采访吗？实际上，你喜欢我们所做的一切，你在这里暗中支持它？”他问主持人，后来补充说他“很想说话”
“我以为我们会谈论这个行业中有趣的事情，诸如此类，”巴斯祖基说。“所以我并不沮丧，我只是在计算和你们在一起有多少快乐时光，和这种超级焦点相比，我们有多少快乐时光。但我很乐意谈论你们想谈论的任何事情。”
Baszucki开始谈论的有趣的事情是Roose抛出的一个假设的“Roblox内部的预测市场”。Roose认为这是一个“可怕的想法”，他想知道该公司是否会考虑让孩子们用Robux游戏内货币下注。Baszucki称这是一个他喜欢的“绝妙的主意”。
“实际上，我认为这是一个绝妙的主意，如果它能以合法的教育方式来实现的话，”他说。“所以，想象一下，没有免费的Robux，没有免费的奖品，只是一个名为“给预测者留下深刻印象的服装”的游戏，它不像是试图得到孩子们的钱或类似的东西。我会是它的忠实粉丝。"
最后，Baszucki似乎坚定地捍卫了Roblox的内容审核工具不断发展的事实，指出过去的文本过滤和现在的面部扫描是该公司关心其用户群安全的方式。
在2024年6月彭博的一项调查显示该平台充斥着捕食者之后，Roblox公司最近几个月受到了严格的审查。像佛罗里达和德克萨斯这样的州已经起诉了立法者所说的公司没有做足够的工作来保护儿童免受剥削和培养。
不管是不是机器人，儿童捕食者的问题已经开始达到白热化。根据欧洲执法机构欧洲刑警组织的说法，欧洲社会正在目睹犯罪网络将儿童武器化以实施暴力犯罪的急剧上升。