封面

LLM not intend to kill you,but kill you

今天晚上不得不又再写一篇文章了

这次聊的信息的价值的问题以及信息是否会腐败的问题。

早年间计算机科学在国内被称之为信息学,这也是正常的。因为本质上程序员就是在跟这些东西打交道:把一串特定文字序列转换成另一串特定序列,并且用不同的方式去呈现而已

方式可以是纯文本

可以是有带图片的也可以是各种各样奇怪的东西

token数量本身也是衡量信息是否有价值的

当然这是针对于人类而言的

我举一个比较难崩的例子:理论上生成洗头脑的概率和生成麦克阿瑟的概率是一样的,但是人工智能会更倾向于选择后面那个。(很简单,人为做了优化)

为什么要说信息价值的问题呢?

比如说朋友a经营一家公司。这个时候计算机系统发两条消息给了他:

一条消息是企业员工a没有去在昨天晚上的加班表上面签字;另一个消息是如果你不关闭阀门a整个控制中心将会被炸毁。

那么这个时候后面那条信息的价值是要比前面那条信息价值要高的。

用一个简单的例子就说明了:信息的价值不在于信息本身。

第二个问题就是关于信息的腐败问题。比如说我们要维护一个系统 系统当中一共有12个函数 系统外面我们依赖了6个外部函数,但这6个外部函数当中有2个是不稳定的。

一劳永逸的做法:尝试自己去根据系统内部12个函数的要求自己写外面那两个不稳定的函数。

但这样的操作在绝大多数场景是不可能被做到的

因为系统内部的12个函数万一经过了两个人以上的手 又如何能承担责任?谁又能说服对方说用自己写的函数来替换掉一劳而永逸呢?

从某种程度上来讲这是一个劣币驱逐良币的经典叙述

而且这样子做代码的复用率不一定能得到提升

并且我们是为了维护那些本来我们可以隔离的东西

软件最终会导致很严重的崩溃.因此

在这样的产品线里面不可避免的几个月一换,为了追求迭代效率这是我觉得真的没有理解的地方

So the llm kill you.

有一个操作系统叫做Nix OS 他处理的问题很简单:利用函数式的方式把每个软件包锁定死每一个版本。这样子我们回滚的时候操作系统会直接读取它,我们构建出来的系统一定是唯一的。

我当时看到这种解决方案的时候是表示非常的优秀,现在来看他只不过是把炸弹隐藏在更深的地方而已

这个地方 上面已经提到了。它是对当前超大规模应用没办法控制自身依赖

最终通过一种很独特的方式控制的解决方法

在超大规模企业里面确实非常好用

但是理论上这种技术应该不会存在最好。

在跟一个工程师聊天的时候 我实在没有搞懂一个能够对计算机体系结构了如指掌的人结果最后干了人工智能冲击最深的领域......

他的担忧很简单:人工智能吃掉了他的所有开发的东西所以我们不如把灵魂奉献于人工智能

反正之前人都是这么干的

这是信息学当中最最最最最需要警惕的一句话

详情内容可以参考cobal语言发明者 编译器的发明者 世界上第一个真正找bug的 工程师的视频。(NSA开源了,对就是那个NSA)

因为这些代码在上一个已经写的不堪入目了...

或者说写到你需要花 超长的时间或者说 你需要有几个有你这样的复制品 才能看完的工程

So the llm kill you

刚刚说过了信息是有价值的

在这样的代码库当中真正有价值的信息又有多少?

代码只不过是给用人用来读的

机器顺便执行一下

虽然网上都说还有那种防御编程 但这种代码大概率通过不了审核

信息在这个时候变质了 你无法用一种非常快的方式获取到它的意义 而人工智能可以做到

当然在著名的书籍当中也曾经说过

# 没有银弹

典型的例子就是OOP 面向对象的精髓是消息传递并不是类的继承 继承只是实现OOP最让人能理解的方式之一

# 外科手术师团队

这是很经典的例子:当一个项目完不成的时候你应该是更加更多的人还是做什么别的要求?

人月神话给了一个非常简单的答案:+人可以但是人与人之间交往的成本会急剧上升。这种隐性的成本被埋没了所以工程会越来越庞大越来越无法让人理解 而人工智能可以通过总结的方式杀死比赛。

同时在那个时代(IBM/360)他认为以后写代码只需要找一个优秀的精通语言的人就行了

没错就是在那样一个时代

这意味着很复杂的编程语言我们只需要用其中一小部分

为什么我要跟着新版本走呢

我再说一个比较炸裂的观点啊这个观点听听就好了(非常激进的观点看的时候小心一下)

从资本的角度来看:本质上整条前端后端产业链是为了养活更多的人

而并不是搞计算机科技术和产品

这句话非常有攻击性,但是确实是一个很残忍的现实

最后一点就是

不要把计算机想的跟炒股票一样

如果一直抱有这样的想法,也许下一个技术出来又有这批人要去换职业的。

当然还有一些领域是人工智能暂时无法触及到的。

比如说游戏开发,这个领域人工智能用来检测是一件非常难受的事情,因为他没有办法判断这个游戏好玩还是不好玩,也就是说以后面向人本身的东西才是最有可能不会被人工智能取代的。

如果人工智能取代了这样的领域,那我敢说的是:其他领域都已经结束了,如果能够搞出可控核聚变,人类可以向星际文明探索了。

发布评论
全部评论(0)