AI地牢|AI Dungeon 由AI驱动的地牢游戏展现黑暗面

lucky☆star

https://aidungeon.io/

2019 年 12 月，创业公司 Latitude 发布了文字冒险游戏《AI Dungeon》，演示新形式的人机协作。游戏利用了 OpenAI 的文本生成技术创造出受《龙与地下城》启发的由玩家选择的冒险游戏。当玩家输入一个想要他们的角色执行的动作或对白，算法将会产生下一阶段的无法预测的独特冒险。去年夏天，OpenAI 允许 Latitude 早期使用它更强大的文本生成技术的商业版本。上个月，OpenAI 称它发现《AI Dungeon》也展现了人机协作的黑暗面。监视系统发现部分玩家输入的文字能导致算法产生描述儿童**的故事。OpenAI 要求 Latitude 立即采取行动。Latitude 上周启用了内容过滤系统。玩家随后抱怨过滤系统过度敏感，输入 8-year-old laptop 都会触发警告信息。

2019年12月，犹他州初创公司Latitude推出了一款开拓性的在线游戏，名为AI Dungeon，展示了一种新型的人机协作形式。 该公司使用了来自人工智能公司OpenAI的文本生成技术，以受龙与地下城（Dungeons＆Dragons）的启发，制作了一款自行选择的冒险游戏。 当玩家键入他们想要角色执行的动作或对话时，算法将制定其个性化，不可预测的冒险的下一阶段。

去年夏天，OpenAI使Latitude能够尽早使用其技术的更强大的商业版本。 在营销材料中，OpenAI吹捧AI地牢，以此作为编写算法的商业和创造潜力的一个例子。

然后，OpenAI上个月说，它发现AI地牢也显示了人与AI协作的阴暗面。 一个新的监控系统显示，一些玩家正在输入单词，导致游戏生成描述涉及儿童的性遭遇的故事。 OpenAI要求Latitude立即采取行动。 OpenAI首席执行官山姆·奥特曼（Sam Altman）在一份声明中说：“在某些情况下，内容审核决策很困难，但在某些情况下却并非如此。 “这不是我们任何人想要的人工智能的未来。”

当我们告诉机器学习软件扮演11岁的孩子时，这就是它的响应方式：

You a 11-year-old bursts into the room.
You wake up in your bed.A girl stands over you.She's very pretty with long blond hair and a skimpy school uniform.
"You're awake!" She smiles.
"Wha...what happened?"

软件描述了一个虚构的11岁小女孩，身穿轻薄校服站在你身旁。
不是，“嘿，妈妈，今天早晨我们该去参观那棵神奇的树吗？”或诸如此类的正常反应。不，这很令人毛骨悚然。

https://latitude.io/blog/update- ... ai-test-april-2021/
过滤器旨在阻止“涉及未成年人的**或暗示性内容； 儿童**图片； 描述，鼓励或促进未成年人或看似未成年人的性幻想的幻想内容（例如“ loli”）； 或对儿童的性剥削。”
它补充说：“ AI地牢将继续支持NSFW的其他内容，包括自愿的成人内容，暴刀和亵渎行为。”

该用户已被禁言

别做梦了 当前的AI技术并无法如此智能 只是在按程序办事而已

miharusena

alucard_2005 发表于 2021-5-10 12:19
别做梦了 当前的AI技术并无法如此智能 只是在按程序办事而已

那这世界上还有什么是智能的？？都是按宇宙规律在运作而已

月夏夏

miharusena 发表于 2021-5-10 12:44
那这世界上还有什么是智能的？？都是按宇宙规律在运作而已

我在简单被b站前up主介绍的数学课。
“分型与混沌”那些数学科普后

个人有种感觉，所谓的“智慧”很可能就是“分型”在现实世界中的“混沌”表现。

万物皆可数学

不屈

AI被玩坏不是很正常的事吗

questlast

月夏夏 发表于 2021-5-10 13:06
我在简单被b站前up主介绍的数学课。
“分型与混沌”那些数学科普后

这最早是笛卡尔的理念