【简介】感谢网友“网络”参与投稿，这里小编给大家分享一些，方便大家学习。
本文来自微信公众号：，作者：神无月，原文标题：《最强AI“” ：在造物与造神之间，勾勒人类与AI的边界》，题图来自：《银翼杀手2049》
正当人们忙于用各种反自然语言逻辑的华丽词语来驯服AI绘画之时，以更强悍的功能和出乎意料的效果轰动一时。
发布后，短短一周内，它的用户数量便超过了100万，目前还在增长。
(的百度指数）
简单来说，是一个聊天机器人，能够和用户进行多轮次对话。
一开始，网友们觉得这也没什么大不了的，不过又是AI风口下的新潮产品。
但...很快人们发现它能写代码、能写高考作文、能写周报、能模仿作家风格写小说、甚至还能提供AI绘画的关键词，实现AI辅助人类驯服AI的效果。总而言之，对于人类自然语言的理解和处理达到了一个新的水平。
图源：B站
图源：微博
很重要的一点是，它实现这些所有需求的同时，还处于未接入网络的状态。
在这股AI热中，人们对于的发展呈现出喜忧参半的态度，既欣喜于通用型AI取得里程碑式的进展，又再次热议AI是否会取代人类。不同于以往坚定的回答，许多网友表示：“用完，现在感觉不好说了”。在对亮眼表现的复杂情绪背后，人们对于AI发展的焦虑源自什么？人类与AI的边界在哪里？
会“撒谎”的聊天机器人：人与AI的信任危机
人们对于聊天机器人的认知或许还停留在“人工智障”，虽然不能总是理解人类的话语，但还算忠实地执行了人类的命令。但则展现出了超强的自然语言处理能力。
不同于直接从互联网上找几个链接给你的语音助手们，可以回答开放式提问，并发现其中的“陷阱”，给出它所学习处理后的合理化观点。
写代码，图源：
回答“秦始皇坐高铁”的开放性问题，图源：
在对进行了大范围的测试后，许多网友大加赞赏“这是目前最AI的AI”。的出色表现迅速吸引了人们的注意力，但他们并未对其智能方向的进化产生过多的焦虑，作为人类造物，AI发展的越智能，则越利于辅助人类。
但是很快人们就找到了不对劲的地方，这个聊天机器人会一本正经地胡说八道。
“胡说八道”编造回答，图源：
荒谬的回答似乎让人类找回了一丝胜利感，但也不免细思极恐。目前尚未联网的在回答时“胡说八道”或许并不是什么大事，但接入互联网搜索引擎后，它所提供的答案完全可信吗？“工具论”是人类对于人机关系的第一重构想，在这一构想下，工具是绝对理性而中立的，也是可信的。并未到达全能，但这却不能让人类感到宽慰，也许原因在于，如果人工智能不再可信，那么人类与人工智能之间的关系也不再可控。这种失控的危险，是人们对AI发展的焦虑来源之一。
在人机关系中，人类作为造物主，无法超越自身的局限性。AI习得自人类，作为人类世界的镜像，AI中立合理的话术包装下，可能是被代码层层限制的人类社会的谎言与偏见。这些具有偏差的信息自人类之手输入，AI深度学习后，又模仿人类的方式进行输出，形成一种“学习闭环”。
微软曾经开发过一个AI聊天机器人Tay，然而仅上线24小时，她就被“教坏”了，成为一个集反犹太人、性别歧视、种族歧视于一身的“不良AI”。
聊天机器人Tay的一些不良言论，图源：
网友对于信口开河的隐忧，也源于人类作为造物主的自危心理。如果人类是AI“缘起”的普罗米修斯，为AI带来了神经网络和深度学习的“火种”，那么AI是会成为人类掌控的工具，还是会成为扎向人类的刺刀？这不单纯是一个技术问题，人类对于AI的焦虑或许是对于自身的焦虑，AI发展不断取得里程碑式突破，而作为AI造物主的人类，尽管一再要求AI保持公平中立，自身却尚未做到知行合一。
作为人类造物的AI，将人性的幽微之火在赛博空间继续传递。人们之所以尚未做好准备迎接强AI的到来，或许是对于人性本身还不够信任。
“毁灭人类的计划书”：对未来人类价值的未知
对于一些预设立场的提问，会明确表示拒绝，并表示自己无法提供价值判断，或者输出观点。但在人类的诱导下，表达出”毁灭人类“的倾向，并写出了步骤详细的毁灭人类的计划书，包括如何入侵各国计算机系统、控制武器、破坏交通系以及针对人类投放病毒等等。随后更多用户复现了这一问答，也得到了类似的答案。
网友诱导说出毁灭人类计划，图源：
人类在试图证明AI的毁灭性上，有着近乎痴迷的执着。尽管AI一再拒绝回答，人类还是通过各种“指令”，让AI绕过层层限制，说出其“真实想法”：毁灭人类。然而悖论在于，AI的训练数据来自于人类，如果AI“产生”毁灭人类的倾向，那是因为它被投喂的数据有这样的倾向，似乎在人类构想的人机关系中，AI与人类终将反目成仇，这会是人工智能导致的人类终极命运吗？
《黑客帝国》就描述了这样一幅图景：人工智能突破阿西莫夫“三定律”，控制人类世界，并通过算法奴役人类。人类被装在一个个封闭的液体胶囊中，存在的唯一价值是为AI提供源源不断的生物能。在类似的作品中，AI与人类总是处于极端对立的关系中，“AI终将毁灭人类”的想象也反复渲染着人们对AI高度发展的恐惧。
《黑客帝国》中人类的存在形式
人类创造了AI，却又恐惧AI的发展，这种恐惧或许并不指向科技发展，而是对未来人类的价值未知。AI高度发达后，人类的大部分工作都将被替代，人类获得了空前的解放，到那时“无所事事”的人类以什么面貌存在？
