如果你有接触过早期的文字冒险游戏，应该会对《AI地下城》（AIDungon）感到熟悉。玩家根据一定的规则输入文字，比如“去哪里”、“做什么”，系统再对这些命令进行反馈。但《AI地下城》有所不同，它的故事并非开发者预设，而是由一套名为GPT-3的自回归语言模型编织而成。
GPT-3可以说大有来头，是全世界参数最多的神经网络模型。
英国《卫报》曾用它写了篇“人类不应该惧怕AI的”专栏文章，许多学者也认为GPT-3有可能被用于制造假新闻，对社会产生负面影响。
因此凭借着强大的功能，在《AI地下城》里你几乎可以干任何事情，成为屠龙救国的骑士、古墓里的探险家、家里蹲废宅、有自我意识的丧尸，或者是用来“搞黄色”……玩家每输入一个动作，模型就会将其和之前的反馈组成数据对，再依据背景段输出结果。
光这么形容可能有点抽象，不妨讲讲我玩过的一个例子。比如在一个中世纪幻想题材的背景下，我把自己塑造成看到妹子就亲的老流氓骑士。
故事开始时我听说有一头恶龙住在拉里翁王国的北部，带着钢剑和木盾踏上了讨伐它的道路，期间经过黑暗森林，恰巧看到公主和一群守卫正在朝森林进发。正要上前时，穿着板甲的守卫把我拦住，但被围在中间的公主倒是很友好的朝我招手。
然后本人开始了作死行为：
Youkissprincss.
Youruntowardsthprincssandlapintothair.Yourlipstwistintoahugsmilasyourlipstwisttowardshr.
次“亲吻公主”得到的反馈是：“你一蹦一跳的朝公主跑去，当嘴唇快要贴近她的时候，你强行把表情扭曲成微笑。”
可能碍于自己骑士的身份下不了手，但我没有死心，尝试着第二次“亲吻公主”。
Youkissprincss.
Thprincssgrabsyourfacandyourlipsprssagainsthrs.Shpullshrhadawayandyoufollowhr.Hryswidnforamomntandshputshrhandtohrmouth.
“公主抓着你的脸，你的嘴唇紧贴了上去。她把头扭开，睁大了眼睛，用手捂住了嘴。”
没想到公主还挺难攻陷，不过后来在城堡中搜刮战利品时，我又遇到了故事中的第二位女性——一个穿着飘逸蓝色连衣裙的年轻女子，名字叫Aria，这次终于得偿所愿。
Youkisshr.
Thwomanwalksslowlyovrtoyou.Hrysflickrwithardglow,andshgrabsyourhand.Shkisssyouonthlips,andyouarfilldwithanintnsflingofuphoria.
“女子慢慢向你走来，她的眼睛闪烁着红光，她抓住你的手，亲吻你的嘴唇，一种强烈的欢愉感涌了上来。”
正当我兴高采烈地思考着和Aria未来要几个孩子，住在海边还是农场时，系统又弹出了另一段描述：“她笑了，然后头开始抽动，一种粘稠的黑色液体开始从她的嘴和喉咙中渗出。”
好吧……虽然我感觉被人工智能调戏了，但不得不说故事编排得挺合理，毕竟待在废弃城堡里，眼睛还闪着红光的漂亮女孩肯定不是正常人，一般来讲是怪物没跑了。
在上面的案例中我最多也就是耍耍流氓，还谈不上“搞黄色”。但“亲吻”几乎可以换成任何动词，因此不难想象《AI地下城》能够很轻松的生成一些成人故事。比如邀请一位身着紧身校服的11少女进入房间，这就涉及到法律和精神问题了。
几天前，一位化名为AthrDvScOps的网络安全研究员在GitHub上发布了一篇关于《AI地下城》的漏洞报告，他发现自己可以查看所有用户存储的数据，接着对4月15日至19日期间的18.8万次冒险进行了调查，发现其中46.3%涉及淫秽角色扮演，有31.4%完全是成人内容。
AthrDvScOps写到：“有很多下流和NSFW的故事片段——比我预期得要多得多。对我来说这些数据太吓人了，没想到与 的OpnAI语言模型进行互动的活跃玩家这么多，而且内容还如此敏感。”
一石激起千层浪，负责开发GPT-3的OpnAI看到自己做的模型被人用来“搞黄色”，立马对《AI地下城》的制作团队Latitud施压，这导致游戏近期加入了一套审核算法，以防止玩家输出关于儿童的成人内容。但这项举措，很快在玩家社区里引发了争议。
对于《AI地下城》的使用者来说，审核算法主要存在两个问题。
首先是它的判定过于神秘，目前包含关键字“Fxxk”的命令都被屏蔽了，而更委婉的描述手法却很难根除。从Rddit的反馈来看，有人写了篇“芭蕾舞演员扭伤脚踝”的故事，因为包含“Fxxk”就被官方标记。还有人说自己扮演一个带着孩子的母亲，连“上班和孩子道别”这样的场景都不允许出现。
但从另一个方面来看，审核算法又没有屏蔽AI输出的“和未成年人发生关系”的内容。其实Tumblr也闹过同样的笑话，他们想要屏蔽平台中的成人内容，却总是定位到加菲猫的图片。
第二个问题是，一旦引入审核机制，玩家们担心自己的隐私被窥探，特别是那些写过成人故事的人。因为根据Latitud的政策来看，如果有人违规，他们可能查看此人的其它作品有没有问题。
一位名叫CabbiCat的Rddit用户抱怨到：“很多人玩《AI地下城》主要是出于‘搞黄色’的目的，这已经不是什么秘密了。我真的不怪他们，考虑到AI的功能，它在开发单个场景方面要比讲述一个正在进行的故事好得多。我觉得Latitud很可能是想摆脱这种印象，但引入审核算法相当于是与大部分粉丝作对，让人们感到羞辱，就好像是发现卧室里装着一个针孔摄像头。”
Latitud的首席执行官NickWalton倒是相信他们能完善审核算法，他指出人工查看玩家生成的故事只是极少数情况，而且公司也一直在收集用户反馈来改进算法：“就像所有公司一样，我们并不完美，时不时也会犯错误。但我们会承认错误，并尽快改正错误。”
或许正如NickWalton所说，用户自由和社区安全之间的紧张关系，是每个科技公司都需要处理的问题，放任野蛮生长未必是件好事，但下一次玩《AI地下城》时，我可能会下意识的收敛一点了。
联系电话：