这么可怕么？马斯克等大佬签名暂停训练更强大的AI系统

基金投顾观察489期 | 这么可怕么？马斯克等大佬签名暂停训练更强大的AI系统

今天突然蹦出来一个消息，标题是这样的《马斯克等千名科技人士发公开信：暂停训练比GPT-4更强大的AI系统》，一看这个就很劲爆，好像AI已经强大到威胁人类安全了，这件事情不得不停止。

为了这件事，我特地去看了一下原文，是发表在生命研究所（Future of Life）上面的，确实是真实的，不过是呼吁暂停训练至少6个月的时间。那为什么还有一个时间呢，暂停的原因是什么呢？

看了正文，最重要的原因是说当前大量公司在模型训练中没有进行规划和管理，处于一个野蛮生长的状态，希望能在一段时间内，建立起共识，形成安全协议，并建立审计和监督机制。里面对人工智能的研究和开发目标我特别认同：重新聚焦于使当今强大的、最先进的系统更加准确、安全、可解释、透明、稳健、一致、值得信赖和忠诚。

确实是这样的，在前面我去了解ChatGPT的原理时，有两个环节至关重要，第一个环节就是送进去训练的数据，第二个是输出内容的规范。训练数据是国内外的名著还是爽文小说，导致模型最终的结果会是截然不同的区别，同时输出内容的规范，又告诉了模型对外输出时哪些该说哪些不该说。我们用ChatGPT觉得它不错的原因是它输出内容的专业性和逻辑性都不错，内容很丰富，但如果我们用的一个模型，说起来瞎编乱造，满嘴的片汤话或者还有攻击性的话，那对于使用者来说，一定是个灾难。

建立行业的规范确实非常有必要，对于长期发展是正面的影响。但现在市场里面的股票会不会因为这个消息下跌就不知道了，本来就是靠着情绪，情绪来了能涨，吓到了也能跌，毕竟炒他们的时候大家也不会去看这些信息具体的情况是怎么样的，都是先炒了再说。

不用特别担心说这样的模型特别强大，会对人类有什么什么威胁一样，比如现在算一个鸡兔同笼的故事，就和学生做题，推导全对，答案错了，但它也不知道自己答案错了。大模型未来一定会更强大，但它只应该是我们的工具。

最近因为在调研ChatGPT的一些应用场景，能做什么已经很多人说了不少，我就聊它的一个弱点。虽然有一定的逻辑推理能力，但在需要大量行业数据和建模的场景下，ChatGPT是完全解决不了的。就像我问ChatGPT可以预测天气变化么，他的回答中说到数据和预测模型的算法，这两个它都搞不定的。

不过市场里面专门做投资的模型从前有、现在有、未来依旧会有，但市场的复杂性也非常高，结果是什么样并不好说。保不齐像王多鱼那个买进那些冒绿光的反而有时候会是一个好策略，谁也没想到观察表里面否极泰来这10只去年最趴的基金构成的组合，今年转过年来涨得大家是一愣一愣的……

大盘云图

以上是今日大盘云图，市场是接着震呀接着震，没有明显变化。现在这段就是趋势形成前的无聊时间，除了等还可以聊聊天嘛。

府库投顾指数

$招商中证白酒指数(LOF)A(OTCFUND|161725)$$前海开源公用事业股票(OTCFUND|005669)$$农银新能源主题A(OTCFUND|002190)$