使用及研究 GPT 的心路历程：

积极适应→忧虑职业前景→思考社会影响→想象人类未来

  1. **积极适应，拥抱变化。**GPT 可以提高自己的生产力，学会用它帮助自己写代码、商业计划书、英语作文。

  2. 忧虑职业前景。在读完 OpenAI 的 GPTs as GPTs 这篇 paper 后（我的笔记 https://doutv.notion.site/GPTs-are-GPTs-847cb32929934cd1bd389ae6c047b9df），我认为程序员这个职业过几年就不存在了，唯一可能留下的是给 GPT 做 code review 的。大胆预言 GPT-4 及其应用在今年内就可以取代大部分前端程序员，输入原型图，一分钟内即可生成可运行代码，仅需稍微改动即可上线。

    1. GPT-4 开启 “软件工程3.0” 全新时代 (qq.com) 正如该文章所描述的软件工程3.0那样：GPT-4 重新定义了开发人员构建、维护和改进软件应用程序的方式，之后的软件开发会依赖这种全新的语言交流方式（类似ChatGPT那样），让这类工具理解研发人员交待的任务、自主完成软件开发，如理解需求、自动生成UI、自动生成产品代码、自动生成测试脚本等。此后，研发团队的主要任务不是写代码、执行测试，而是训练模型、参数调优、围绕业务主题提问或给提示（prompt）。
    2. 谷歌工程主管：程序员的职业生涯将在 3 年内被AIGC终结 (qq.com) Welsh 认为，**ChatGPT和GitHub Copilot预示着编程终结的开始。**由于 ChatGPT 和 Copilot 等技术的出现，编程正处于从人类工作转变为机器人工作的转折点。在他看来，程序员需要演变成 AI 程序的“老师”——或者产品经理，或者代码评审人员。

  3. 思考社会影响。除了程序员受到冲击外，GPT 还会改变很多职业和行业。比如教育，目前的学校教育模式已经无法适应后 GPT 时代，迫切需要新的教育模式。GPT-4 已相当于一个优秀本科生的应试水平，GRE 成绩已经超越绝大部分学生。还有翻译和写作相关的职业，由于 GPT-4 的翻译和写作水平都很强，且 GPT 更新迭代的速度比人学习进步的速度更快。我们需要思考哪些能力是无法被 AI 取代的，哪些能力是可以由 AI 完成的（比如写代码和写作）。将机器能做的事情交给机器来做，人要做更高级的工作。

    Untitled

  4. 脑洞大开，想象人类未来。OpenAI：GPT 是通用技术，其意义可比肩甚至超过电力、蒸汽机、互联网的发明，带来的社会变革难以预估。微软：GPT4 是通用人工智能AGI的火花，标志着计算机科学领域及其他领域的真正范式转变。《GPT-4 ，通用人工智能的火花》论文内容精选与翻译 (notion.site)

    1. 悲观态度，GPT 失控的巨大风险：Wikipedia AI 对齐 （Alignment）AI alignment - Wikipedia 相关内容。9年前霍金就已经想到了 AI 失控的巨大风险，而人类还没有准备好面对这一天；无法预知强人工智能技术奇点的到来，人类的存亡取决于 AI 的一念之间。

      Untitled

      Untitled

      Untitled

      Untitled

    2. 乐观态度：人类可以控制 AI，并借助其力量加速科研，帮助人类实现可控核聚变，一次性解决能源问题。还可研究冬眠技术、太空电梯等，人类开始星际航行。

    3. 科幻，三体——GPT：已经达到强人工智能的 GPT = 三体人。如果那时候的它需要你的帮助统治人类，你是降临派，拯救派，还是幸存派呢？面对远高于人类智能的它，我们都成了火鸡。

  5. AI 与区块链的关系。GPT 需要微软的天量算力支持，对 GPT 及大语言模型（LLM）的研究加速了集权过程，而区块链会促进权力去中心化。

    1. 可以看看这篇文章的观点：强人工智能是效率派中最闪亮的那一个，而区块链则是公平流的集大成者。用高能量级别的算力构造的矛，只有用高能量级别的算力构造的盾才能防御。区块链和密码学系统，就是算力之盾，攻击者必须燃烧整个星系的能量，才能暴力破解。本质上，只有这样的系统才能驯服强人工智能。

      强人工智能时代，区块链还有戏吗？. 我认为区块链在价值取向上与强人工智能是对立的，然而恰恰因为如此，它与强人工智能之… | by Meng Yan | Mar, 2023 | Medium

    2. 《主权个人》这本书预言了未来区块链对人类社会各方面的影响，包括政治格局、思想、个人生活等方面。而目前人类无法预测 GPT 带来的影响，因为我们仍不清楚它的智能形成机制和能力边界。

  6. 解释 GPT：

    1. 涌现 emergent：Joe W. (@web3_twolegs) / Twitter 在 Twitter Space 的分享。目前对人类的智能和 GPT 智能的成因都没有定论，GPT 的智能可能是通过涌现产生的，而人类的智能可能也是涌现出来的，当神经元达到一定数量就产生了智能。所以你不能说GPT跟我们不一样，它也可能通过同样的机制成为比人类更高级的智能。
    2. 思维链条 Chain-of-Thought：让 GPT 分步思考，给出计算过程，可以大幅提高其准确率。
      1. AI狂飙的时代，人还有价值吗？ (qq.com) **它不是从输入一步到输出，它在模仿人类思考的东西。我给它一个输入，它先想第一步中间过程，用第一步中间过程想一个第二步中间过程，第二步让过程想第三步中间过程，推出一个结果。一旦你能够建立起这种结构来，你就能够做到快思考不能够做到的事情。**因为我们很多人类的思考过程是这样的，你要把一堆信息综合在一起，推出一堆中间结果，最终得到一个我们要的结论。

  7. 推荐阅读

    1. AI狂飙的时代，人还有价值吗？ (qq.com)

    [AI狂飙的时代，人还有价值吗？ 精彩片段摘录](https://doutv.notion.site/AI-c5b8352062c348a78efde925c4b4d5f1)