ChatGPT - 横看成岭侧成峰

定义

ChatGPT 是什么
ChatGPT是由OpenAI开发的一个人工智能聊天机器人程序由 OpenAI 公司于2022年11月推出。该程序使用基于GPT-3.5架构的大型语言模型并通过强化学习进行训练。

ChatGPT以对话方式进行交互可以用于包括自动文本生成、自动问答、自动摘要等在内的多种任务。如在自动文本生成方面ChatGPT可以根据输入的文本自动生成类似的文本在自动问答方面ChatGPT可以根据输入的问题自动生成答案。

这是 ChatGPT 自己的介绍

注自我介绍不错但是 “转移学习” 应该翻译为 “迁移学习” 才精准。

ChatGPT 背后的技术是 OpenAI 公司的 GPT 大型语言模型框架OpenAI 也得到了微软公司的大力投资ChatGPT 是这样回答 “你怎么分析微软公司持续投资 OpenAI 公司” 这个问题的

微软公司持续投资 OpenAI 公司可能是因为以下原因
先进技术: OpenAI 是一家先进的人工智能研究机构其研究成果和技术在人工智能领域具有高度的创新性和潜力微软公司可能希望能够通过投资获得这些先进技术。
市场机会: 随着人工智能技术的不断发展人工智能市场机会也在不断增加微软公司可能希望能够通过投资 OpenAI 来获得这些市场机会。
合作机会: OpenAI 和微软公司在人工智能领域有着高度的互补性微软公司可能希望

嗯chatGPT 最后一句话没有讲完它也没有解释。

网上流传了 chatGPT 能做的各种事情我们的博主也写了不少博客 https://blog.csdn.net/nav/advanced-technology/chatgpt

它可以生成各种内容可以回答不少技术问题大家对它的态度刚开始是好奇惊艳随后就有不同的反应特别是在问答教育领域 –

------

限制、禁止 chatGPT

英文 IT 界最大的问答平台 StackOverflow 禁止在它的平台上使用 ChatGPT 生成的内容。 主要原因是ChatGPT 生成的回答 看起来非常高质量非常容易生成但是准确度低。这会导致很多用户大量生产此类内容对平台和想得到正确答案的用户都是有害的。

这是 StackOverflow 官网的解释截屏

一个用户 Alex Poole的评论得到了很多赞我翻译成中文
不管 AI 生成的答案正确与否“StackOverflow是一个面向专业程序员和热心编程爱好者的问答网站" 这句话同时适用于 【提问】 和【回答】的部分。在我看来那些只是将提问粘贴到 AI 那里然后把 AI 的回答再复制回来的人 不算是专业程序员也不算是热心编程爱好者。也许这些人对 AI 的回答进行了检查和测试如果他们真的能够验证这是一个好的正确答案他们应该能够自己写出来。这并不一定意味着互联网上没有或不会有人工智能提供服务的地方但它并不属于 StackOverflow。

下面是我用 deepl.com 服务得到的翻译

美国的一些学校也禁止学生使用学校的网络连到 ChatGPT主要原因是“虽然该工具可能能够提供快速和简单的问题答案但它并不能培养批判性思维和解决问题的能力而这些能力对学术和终身成功至关重要” 报道链接 但是学校防止不了学生用其他方式连到 ChatGPT这样 自己有手机流量的就能用没有手机流量的就不能用。 或者是某个地区的学生可以通过某种方式上网的少部分学生就能得到这种服务这是否造成了一种不公平呢

------

出错了怎么办

在大约 10 年前我在研究院的同事就开发了一个 AI 的写作助手你输入上一句 写作助手就会根据上下文建议下一句当时的 AI 技术和数据量还是比较初级所以它的一些建议看起来很幼稚可笑。这个研究项目在小范围演示后就停下来了 十年后大不一样了这是我刚才随手给 ChatBot 出的题目

如果 ChatBot 聊天聊出问题了怎么办 这也是实际发生的情况。 我试着和她聊 “在犯罪的边缘试探” 的笑话ChatGPT 倒是很冷静

2016 年微软就发布过一个有感情的聊天机器人 – Tay但是 16 小时之后就把她下线了。因为她在和用户聊天的过程中从用户那里学到了很多骂人、歧视、以及其他恶劣的行为。 这个聊天机器人有 “自觉” 和 “良心” 么知道自己的言语会伤害别人么 要找机会直接问她。

从我有限的测试来看 ChatGPT 他背后的高人 很明智地吸取了前人的教训给自己画了一些红线不敢越雷池半步。

------

共存

ChatGPT 能快速地给出看起来很有信心的答案学生拷贝就好了这是作弊么 也有老师说这就像 20 年前 Google 出现的时候一样当时也有老师不让学生从 Google 上直接找答案后来怎么样了呢

打不过你就加入你好了。

这其实反映了 人工智能 简单或复杂的算法 辅助人类工作的一个趋势。 下面是一些例子

• Word 编辑器的文字拼写自动纠错功能这算作弊么以及后续不断提高的语法建议功能Excel 的自动数据自动填充、计算功能 PowerPoint 的 “幻灯片自动排版” 功能
• 以前初学者翻译文章要一个词一个词地查纸板的字典后来有网络上的词典便携式的电子词典手机 app现在很多的翻译工具能翻译整段话而且效果不错就像本文上面用的 deepl.com 的例子。
• 代码编辑器中的 IntelliSence 自动完成变量名和函数名的功能自动生成函数API 的注释演化到最近的自动生成测试用例自动完成函数功能等。
• wolframalpha.com 网站的自动解题并列出步骤画出优美的图形…
• 艺术创造中的美颜AI 作画等。
• 更不用说在股市交易中的 AI 算法的作用 …

这些进步在当时都引起一些争议现在看来都好像是挺自然的了。

当然AI 从解决单个离散的任务发展到可以完成一整套考试这是极大的飞跃 – 最近世界著名的沃顿商学院的教授 Christian Terwiesch 让 ChatGPT 做课程的期末试卷AI 居然得了大约是 B 或者 B- 的分数。 考虑到 AI 的发展速度我们不难想象不久的将来 AI 在 MBA 课程中碾压人类就像 AlphaGO 碾压人类围棋手那样… 那么上 MBA 学院的价值是增加了还是减少了呢?

在我们软件工程师的面试中 我们经常要考察基本的算法例如快速排序红黑树等如果一个候选人说 这些算法都有 API 和别人经过考验的算法库我只管调用就好了 你作为面试官你怎么办呢 我们在考试和面试中经常要考察这个人的 “技能” 那么会用 ChatGPT算是一个有价值的技能么 技能的反面是什么呢

------

鼓励使用 ChatGPT

打不过你就加入你好了而且还要充分利用这个工具。 我今天看到这个 npr.org 的报道有老师要求所有学生都用 ChatGPT 来做作业 他认为在讨论和创意阶段这个工具还是很不错的。

这位老师说他对于 AI 工具对于教学的影响又激动又焦虑但是还是要跟上时代啊

------

分清楚 【参考】还是 【作弊】

在一些人抱怨 ChatGPT 导致作弊的时候他们可能忘了作弊是人类有史以来就有的行为现在也不例外可以搜索一下 “论文代写” 或者是 “毕业设计 源码” – 搜索这些东西的人收集资料呢还是直接拿现成的方案去当作自己的作品呢 这就不得而知了。

这个 BBC的报道 也提到肯尼亚的大型作业代写的服务。 一旦开始了作弊大家就从 “学术道德” 的高地上走下来了随之而来的是各种环节的作弊行为

• 这些代写作业的人都是在肯尼亚一带的非洲同胞但是他们都头像都是白人
• 这些代写作业的账户上面的五星好评也是假的这也有一个假账号和假评价的交易市场
• 这给了顾客欧美的学生一种印象是 “高水平的西方人在替我写文章老子的钱花得值”

从报道中的数据可以推导出一个一周工作七天的代写文章者可以挣到相当于当地成年人的平均工资。 这对于很多接受了高等教育但是在当地找不到工作的年轻人来说这是一个很不错的出路。

当然人们也开发了各种检测作弊的工具对于 ChatGPT也有检测工具出现了 GPTZero

如果所有人都能用上 ChatGPT而且检测 ChatGPT 的技术也在提高那么对肯尼亚一带的人肉论文代写行业有什么影响呢 我们能训练 ChatGPT 去检测作弊行为么

-----

AI 贵有自知之明

ChatGPT 是怎么看自己产生的内容被学生使用的呢 请看它的直接回答

理论上ChatGPT 属于哪个层次的 AI 呢 如果低层次的 AI 都这么厉害了高级的 AI 出现后我们怎么办呢

图片来自汪军教授的演讲

当然人和 AI 在各个领域的较量才刚刚开始魔高一尺道高一丈双方的较量的过程和结果是合作共存融合还是对抗最终谁能胜出让我们 拭目以待 说到拭目以待说不定有人正在做机器眼睛接入人脑的实验咧