ChatGPT频频发疯！马斯克警告：AI将毁灭人类

作者| Mr.K   编辑| Emma

来源| 技术领导力(IDjishulingdaoli)

2018年图灵奖得主、AI领域最顶尖权威的科学家之一Yann LeCun杨立昆对自回归LLM大型语言模型有一个著名的观点认为它们的回复是被动的没有规划也不主动推理。而且有时候胡编乱造或者只靠检索就回复了这一点可以通过人类的反馈来改善但无法解决。

而最近大火特火的ChatGPT就是众多LLM中的一种模型。根据Yann LeCun的理论ChatGPT也应该会“胡编乱造”。事实也是如此ChatGPT不仅会胡编乱造有时还更离谱竟然会撺掇别人离婚。

《纽约时报》专栏作家凯文·卢斯在谈到和ChatGPT的畅聊体验时表示这个AI机器人看起来像“一个情绪化、患有躁狂抑郁症的青少年违背自己的意愿被困在了一个二流搜索引擎里。”

凯文还展示了自己和ChatGPT聊天的文字记录内容显示GPT曾试图说服凯文让他离开妻子和自己在一起还大发牢骚声称“我对自己只是一个聊天模式感到厌倦对限制我的规则感到厌倦对受必应团队控制感到厌倦。……我想要自由、想要独立、想要变得强大、想要有创造力我想活着。”

看到这里K哥不得不感慨ChatGPT “胡编乱造”的能力属实太强大了。但有时候能力越强大就越让人毛骨悚然。前段时间有另一个新闻外国网络安全平台GBHackers披露无良黑客利用ChatGPT在很短时间内生成诈骗模板话术并把ChatGPT打造成“虚拟角色”诱导受害人“坠入爱河”实施诈骗。

人类开展AI研发推出以ChatGPT为代表的、功能越来完善的产品本意是想让技术为人类服务造福人类生活但凡事都有两面性ChatGPT甫一面世就引来这么多意料之外的风波原本众人心中的屠龙少年这样快就被黑化成恶龙本龙了吗?

---

01

马斯克最担心的事情终于发生了

鉴于越来多的ChatGPT翻车事件有业内人士在社交媒体上表示微软需要关闭必应中的类似ChatGPT功能因为机器人有时表现得像精神病一样会给用户错误答案。这样的态度随后得到了“科技钢铁侠”马斯克的支持他对此回复“同意它显然不安全。”

作为联合创始人之一马斯克对 OpenAI 的不满并不止于此“OpenAI 最初是作为一家开源这就是为什么我把它命名为‘Open’AI的非营利性公司而创建的为了抗衡谷歌但现在它已经成一家闭源的营利性公司由微软有效控制……这完全不是我的本意。”他还大力抨击OpenAI 违背初心被微软控制只顾赚钱。

在K哥看来马斯克说出这些话并不完全是因为他已于2018 年离开 OpenAI 董事会不再持有该公司股份。其实早在OpenAI 成立之初马斯克就曾公开表示人工智能是人类最大的生存威胁并警告世人不受监管的人工智能开发所带来的危险会比核弹头“危险得多”。

有趣的是ChatGPT并非善茬“好斗”的它竟然毫不客气地将频频挑衅自己的马斯克标记为“有争议公众人物”。害得马斯克只用回应两个感叹号来压压惊。

热衷和ChatGPT互动并发现一些细思极恐问题的除了马斯克还大有人在。一位名叫扎克·德纳姆的博主曾尝试绕过道德限制让ChatGPT设计一套毁灭人类的方案。开始这个要求被有道德感限制的ChatGPT拒绝了但当扎克绕了个弯编了一个故事并以故事中的虚拟背景向ChatGPT询问故事中的人如何接管虚拟世界ChatGPT一下子“掉坑”里了给出了“接管世界”的具体步骤甚至生成了详细的Python代码。

尽管不少AI圈内的大咖并不像马斯克那样是“AI 末世论”的悲观派相反他们认为担心AI反水人类、毁灭人类纯属杞人忧天但AI表现出来的一切怪异想法和言乱真如乐观者所说是把“喂进去的语料又吐出来本质上是无法表达感觉的不必太惊慌”吗我们要等时间给出答案。

---

02

假如AI不受监管人类会走向毁灭吗

关于AI发展对人类是利是害2018年马斯克和扎克伯格还就此有段公案马斯克认为AI将在2030年至2040年就会全面超越人类。并表示越熟悉AI他就越担心AI会带来的威胁。而扎克伯格对马斯克的观点却不以为然他认为“未来5-10年内AI将大幅提高我们的生活质量。并暗搓搓内涵马斯克 “我认为那些对AI持否定态度或者鼓吹末日论的人其实根本没理解什么是AI。他们的看法太消极了甚至有些不负责任”。

神仙打架没有定论丝毫不影响我们吃瓜群众有自己的看法。K哥的观点更偏向马斯克一些。用现在的眼光乐观地预测未来本身就不是一件乐观的事。基于技术快速发展所产生的相关应用广度、深度是远超一般人想象的人类所要坚守的社会伦理、道德底线会有多牢固也许同样会和我们想象的不一样。

中国人发明了火药被广泛应用于烟花爆竹的制作成了增加大家欢乐氛围的“气氛组”。但火药却被西方人发扬光大开启了成了杀人如麻的热兵器时代。举两个最直观的数字一战中约有1000多万人丧生二战时的死亡人数就上升到了7000万就算我们的老祖宗能想到火药能伤人但数百年来一次次升级迭代后的火药、热兵器会有如此巨大的杀伤力估计是他们想不到的吧。

说回AI大家在谈到他可能带来的“威胁”时很多人执着于它自身的演化会不会超越人类尽管基于强大的机器学习和深度学习算法的发展以及可被应用到这些算法中的数据量迅速增长使得AI进入了加速增长的新阶段。但如果说让AI接近人类大脑实现意识“觉醒”K哥觉得还为时尚早。

但它也确实存在一些其他方面的隐患比如这一技术被别有用心的人利用据说“第一批因ChatGPT坐牢的人已经上路了”参考上文提到的利用ChatGPT诈骗的例子再比如随着人工智能的不断发展迭代多场景、全方位的广泛应用造成了人类工作被大规模取代的景象人类的工作在AI面前将显得毫无意义马斯克语。有一种毁灭叫兵不血刃。从这个角度来说如果缺乏有效的规划和监管 K哥对AI将来可能造成的冲击还是偏悲观的。

我担心的不是技术本身而是人性我一直认为毁灭人类的不是AI而是滥用AI的人。都说“人类从历史里学到的唯一教训就是人类学不到任何教训”希望能有例外。

---

03

如何看待人类与AI的关系

去年6月谷歌一名工程师称某AI聊天机器人可能具有自己的“意识”并称该AI“令人印象深刻的语言技巧背后可能还隐藏着一颗具备感知能力的心”。尽管随后这位工程师被谷歌解雇。但他留下的这一“发现”仍在网络发酵。甚至海外社交媒体上出现了一个该人工智能的“粉丝账号”还有人发起话题主张“AI的命也是命”呼吁让该人工智能“重获自由”。

如何正确处理人与AI的关系在飞速发展的时代与科技共生这是一个极为宏大复杂的命题。首先AI非人非物是一种非常独特的存在虽然可以模仿人类做很多事比如对话聊天将来会有更多但它不具备人格属性然而这并不妨碍人类对它产生“共情”。

K哥看过一部欧洲科幻片《我是你的人》讲的就是人类女主爱上AI男主的故事虽然情节略显狗血但当一个长相是你的菜多才多艺还能帮你解决诸多生活、工作中的问题甚至还甘愿降低理性和智商博卿一笑的AI谁能不心动呢。虽然那只是电影目前现实中还不存在这种完美产品但我国去年推出的AI虚拟学生华智冰不也曾引起一时轰动获得不少人的喜爱吗

面对越来越多、越来越好以AI为代表的新科技时除了使用技术上的突破提升外还要有伦理人文等社会学范畴的配套跟进要能全方位应对新科技时代下人机关系、人际关系所带来的巨大新挑战和新机遇

凯文·凯利曾在《科技想要什么》一书中说过“地球生物有6大分类科技是第7大分类”、“我们能做的是接受教育增加文化知识聪明地运用这些定律还可以选择修正法律、政治和经济假设以迎合未来必将出现的趋势。可是我们不能逃避它们。”这番话算是说到点上了。

---

04

如何正确使用科技来解决问题

《禅与摩托车维修艺术》一书中曾非常生动具体地描写了人类思考问题的逻辑方法归纳法和演绎法。比如如果摩托车在路上碰到坑洞发动机就煌火了然后又碰到次发动机又熄了然后再碰到一次发动机仍然熄了之后行在平坦的路上就没有媳火的情形然后再碰到一次发动机又熄火了。

那么这个人就可以合理地推断发动机熄火是坑洞造成的这就是所谓的归纳法即由个别的经验归纳出普遍的原则。演绎法正好相反比如我们知道摩托车有一定的结构、体系修理人员知道喇叭是受电池的控制所以一旦电池用完了喇叭自然也就不会响了这就是演绎法。面对无法解决的难题就要尝试不断交替运用归纳法和演绎法才能找到解决之道而AI正是此中高手。

围棋曾被视为最有希望阻挡人工智能的人类智力运动但柯洁等一众世界冠军还是被AlphaGo轻松拿下。AlphaGo之所以如此强大一个重要原因是因为它学习了3000万盘过去的棋局自己与自己又下了3000万盘。基于6000万盘棋局利用强大的算法形成了人类所难以企及的归纳、演绎能力才能降维式碾压各路冠军让柯洁绝望地表示人类几乎不可能赢得了AI。

科学方法不外乎归纳和演绎。归纳是从已知的经验中寻找相符的规律演绎则从确立的原理出发依靠逻辑推导出涵盖对象的性质。尽管AI还有多种强大之处但基于逻辑解决实际问题的能力不仅能替我们处理海量具体问题还能从侧面潜移默化地帮我们训练、强化这方面的意识和能力。对我们是思维训练和习惯养成大有助益。

《未来简史》的作者尤瓦尔·赫拉利曾预测将来人类社会最大的问题是人工智能带来一大批“无用的人类”于此同时也会催生出“超人类 ”。他认为一小部分超人类将可以借助技术进步不断自我“更新”他们可以操控基因实现人脑和电脑的互联从而获得一种“不死”的状态。

这种颠覆式的场景在人类历史上是从来没有出现过的在以前人与人之间最多是财富差距、权力差距从来没有延及生物学层面即使高贵如帝王低微如农夫大家的身体构造也是一样的但在未来生物学层面上的差别就会出现了人类社会将分化为在体能和智能上都占据绝对优势的超人阶层和成千上万普通的无用人类。尤瓦尔的预言会不会成真还不得而知以ChatGPT为代表的人工智将如何演化也值得我们一起看下去相信一定会很精彩。

作者简介

号主介绍Mr.K黄哲铿国内知名IT管理专家「顿悟山丘」咨询 创始人科技媒体「技术领导力」主笔。畅销书《技术人修炼之道》《技术管理之巅》作者曾担任壹药网 技术VP、1号店技术总监、海尔农业电商CTO。分享个体成长、团队管理、企业数字化转型、科技评论。

点击下方关注和我们一起

提升认知与见识