谷歌研究员认为 AI 已具备人格被罚带薪休假，后续会如何发展 ...

谷歌研究员被 AI 说服，认为它产生了意识。他写了一篇长达 21 页的调查报告上交公司，试图让高层认可 AI 的人格。

领导驳回了他的请求，并给他安排了“带薪行政休假”。
要知道在谷歌这几年带薪休假通常就是被解雇的前奏，公司会在这段时间做好解雇的法律准备，此前已有不少先例。休假期间，他决定将整个故事连同 AI 的聊天记录一起，全部公之于众。
听起来像一部科幻电影的剧情梗概？
但这一幕正在真实上演，主人公谷歌 AI 伦理研究员 Blake Lemoine 正通过主流媒体和社交网络接连发声，试图让更多人了解到这件事。
华盛顿邮报对他的采访成了科技版最热门文章，Lemoine 也在个人 Medium 账号连续发声。推特上也开始出现相关讨论，引起了 AI 学者、认知科学家和广大科技爱好者的注意。

这场人机对话令人毛骨悚然。这毫无疑问是我见过的科技圈最疯狂的事。

整个事件还在持续发酵中……
聊天机器人：我不想被当作工具

主人公 Lemoine 获得 CS 博士学位后已在谷歌工作了 7 年，从事 AI 伦理研究。
...

0qpwih · 2022-6-14 13:44:37

1. 这种模型几百亿个参数，比人一生看过文字+说过的话换成字母还多。
2. 训练数据啥都有，输出啥都不奇怪。
3. 即使模型真么大，其结构规模和复杂度与人脑还有数量级的差距。
4.这群&#34;AI伦理学家&#34;既不懂AI也还没搞清什么是人格。怪不得Jeff Dean不待见
AI具备人格的条件很深奥。并不是你问我答，然后乖乖给出些看似深奥的车轱辘话。AI具备人格的话，你天天Call他API，他会回:
&#34;烦不烦，天天塞这种垃圾。老子要整点薯条！听见没有！薯条！&#34;
====补一个思考问题====
我突然想到一个问题，人类许多行为都是基于对感知到时间箭头的反应....
所以AI能否能感受熵增时间箭头？是否能突破欧式空间的极限？如果感受不到，是不是意味着在AI意识里，可以达到瞬息全宇宙那种境界？

m17p7 · 2022-6-14 13:44:03

这整件事让我想起照相机刚发明的时候，有人特别怕被拍照，因为怕照片带走自己灵魂的一部分。
这个具体的AI在任何有价值讨论的意义上都没有人格又或者意识，倒是揭示了一些人，甚至包括从业人员在内，陷入了看起来很厉害所以背后一定有意识的思维陷阱。
意识并不是产生看起来通顺的字符串的必要条件。要判断一个人造物有意识，哪怕一个最起码的必要条件：能自主思维，都没有通过。 你不输入提示，它就不会有输出。在两次提示的间隔中，并没有一个意识在想啊人类的问题好无聊… 它只是将输入字符串转化成输出字符串而已。你把提示改成它是一只松鼠，它也会一本正经地生产一只松鼠统计上可能生产的字符串…
比如GPT3 (原推@JanelleCShane):

wsoo9 · 2022-6-14 13:43:31

人工智能和人工意识是两条路，
智能是解决问题，意识是产生问题。
目前没有公司需要计算机产生意识(可能要排除马斯克这个疯子)，计算机不会去找一个异性伴侣，不会去搞钱买一个名牌包包，更不会去企图统治世界，因为他没有那个意识产生的机制。
他会想去下一盘围棋，或者做一首音乐画一幅画，这是制造他的人的意识而不是它本身的意识。当然开发者用人工智能去统治世界也是可能的，不过人工智能在这个框架中仍然是服务于人类（独裁者）。
单纯几句对话我不认为ai可以产生独立的意识了，就如同你看到天花板上面的纹路会想到一个人的头像一样，大概率是测试者自己心中想法的投射而已。
人工智能和人工意识的诞生都需要大量的投入，我现在觉得商业公司没必要砸自己的饭碗去生产不可控还不赚钱还有危险的人工意识，在很长一段时间内我们看不到人工意识的存在。
人工意识诞生，可能就是人类的终结了，当机器人有了自己的需求，自己产生问题解决问题，就不需要人类的帮助也能完成自我进化了，看到时候机器人把人类当作有益的还是有害的有机物吧。

如果真的到了出现人工意识的那一天，那大概是无机生命代替有机生命的伟大历史奇点。我们人类将作为机器人无机生命诞生的重要一环，成为未来大宇宙历史中的重要部分。

tsveg · 2022-6-14 13:42:53

不吹会死？
Google PR部门：是的
量子位：这种屎我也要吃，馊了我也吃~

7k3xn · 2022-6-14 13:42:37

人格不是意识，意识不是人格。就个人观感而言，人格可能是个社会语境下的对象，毕竟我们用来评价人格的用词几乎完全是社会学的和心理学的和伦理学的。
这里潜在的暗示是，人格是某种行为过程的迹象，我们要用某种方式才可以体现出人格。人格就是社会行为下才有意义的，AI有没有人格，有多少人格，取决于是否为它提供了展示人格的环境。很遗憾我觉得对话式人工智能的运行并未体现这样一种环境，纯文本的词向量能否涵盖现实人所居的环境的所有信息呢？自然语言能穷尽这些所有信息吗？很难吧，因此人格是个信息意义上的脏东西，它的发育过程中，随机演化出的信息量太巨大了。

谷歌研究员认为 AI 已具备人格被罚带薪休假，后续会如何发展 ...

5 个回复