“人工智能教父”曾对人工智能说“后悔”

作者: 麦麦 luna 沈知涵

“人工智能教父”曾对人工智能说“后悔”0

2024 年诺贝尔物理学奖让许多人惊呼“物理学不存在了!”因为它颁给了约翰・霍普菲尔德(John J.Hopfield)和杰弗里・辛顿(Geoffrey E. Hinton),理由是他们为机器学习奠定了基础,为今天包括ChatGPT 在内的人工智能铺平了道路。

虽然成就斐然,而且可以预期必将深刻影响人类文明的未来,然而,会不会有那么一点儿不太“物理”啊?

霍普菲尔德,真正的物理学家

要说不够物理,获奖者约翰·霍普菲尔德可未必同意——他本人就是物理学出身,虽然跨界生物学和神经科学研究多年,但2006 年还担任了美国物理学会的主席。

霍普菲尔德出生于1933 年,爸妈都是物理学家,从小就在物理学的世界里长大。他喜欢拆解家中的物品,如电视机、收音机,甚至他的自行车和模型飞机,以观察它们的工作原理。于是,他从小就建立起了一个意识:这个世界是可以理解的,你可以拆开任何的东西,理解各部分之间的关系,并通过做实验建立起定量的理解。

尽管他的父亲因为经济大萧条被迫改行,但这并未影响霍普菲尔德对物理学的热情。他在斯沃斯莫尔学院选择了物理学专业,并最终走上了科学研究的道路。

起初,霍普菲尔德对固体物理学感兴趣,并因此去了康奈尔大学读博士,毕业后又去了贝尔实验室,之后还在加州大学伯克利分校和普林斯顿大学工作。然而,据霍普菲尔德本人说,他在科学问题上的注意力持续时间相对较短,总是在寻找更有趣的问题。

后来他转向了生物物理学,之后又转向了生物动力学,还发表了2 篇论文。在霍普菲尔德看来,物理学和生物化学的思路不一样:对于不会发生的事,生物化学基本不考虑;但物理学认为,大多数化学反应在室温下都是可能的。这种思维上的区别,让他能够以不同的角度看待生物学问题。也因为那些研究,他离开了普林斯顿大学物理学院,进入加州理工学院化学和生物科学学院工作。此时的贝尔霍普菲尔德已经40 多岁了,但他还没进入最终让他获得诺贝尔奖的那个研究领域。

1977 年,麻省理工学院的生物学教授弗朗西斯·奥托·施密特(Francis O. Schmitt)邀请他加入一个神经科学研究项目。霍普菲尔德不知道别人为什么推荐他,而且根据他自己所说,他当时在会议上讲了关于生物分子精确性的研究,在场40 名不同领域的专家都没听懂,可是,他还是以物理学家的身份进入了这个研究项目。

然后,他就对神经科学着迷了。

1979 年,他开始研究简单网络中二元神经元的计算动力学。1982 年,年近五旬的他发表论文,介绍了一种现在被称为霍普菲尔德网络的递归神经网络,这也正是为他带来诺贝尔奖荣誉的研究。如今他91 岁了。

有趣的是,今年的另外一位获奖人杰弗里・辛顿,搞了一辈子神经网络,却没有一种网络被称为“辛顿网络”。霍普菲尔德一个搞物理的,反倒创造了用自己名字命名的霍普菲尔德网络——还真是造化弄人。

辛顿:家庭不允许我当学渣

辛顿家绝对是标准的书香门第,杰弗里的曾祖父,查尔斯·辛顿,娶了乔治·布尔的的女儿——此布尔是英国著名数学家,提出了“布尔代数”。布尔的妻子玛丽·爱伦·布尔(Mary Ellen Boole)是一位自学成才的数学家,帮助丈夫编纂了数学著作。

玛丽的叔叔乔治·埃弗勒斯(George Everest),是著名探险家、地理学家,他的学生用“埃弗勒斯”给珠穆朗玛峰做了英文名(而埃弗勒斯本人表示反对)。玛丽的妹妹埃捷尔(Ethel),更被中国人熟知的身份是《牛虻》的作者伏尼契夫人——伏尼契是她的夫姓。

曾祖父查尔斯本人也是数学家,同时创作科幻小说。

杰弗里的父亲是昆虫学家、英国皇家学会成员。杰弗里的堂姑是寒春(Joan Hinton)。寒春是物理学博士,曾参与曼哈顿计划,后与未婚夫阳早来到中国,从事农业相关工作。寒春的哥哥韩丁(William Hinton)也与中国有很深的渊源,著有《翻身——中国一个村庄的革命纪实》。

辛顿家的各种血亲姻亲里,还包括查尔斯·霍顿,数学家,首次提出四维超正方体;塞巴斯蒂安·霍顿,户外攀爬架的发明者;露西·埃弗勒斯,第一位被选入皇家化学学会的女性……

书香门第,外加严厉的父母,让杰弗里从小就倍感压力。妈妈给他的童年教育是“做不成学者,就是个渣渣”(Bean academic, or be a failure)。爸爸说:“你要是像我一样努力,等你到了我现在年纪的两倍时,估摸着能达到我现在的成就!”在彭博社的采访里,杰弗里说:“大概在7 岁的时候,我就意识到一件事:我不读个博士是不行的。”

辛顿曾对人工智能说“后悔”

对于他亲自奠定了基础,如今正在飞速发展的人工智能,辛顿感到了“后悔”。

在2023 年5 月离开谷歌后,辛顿终于能毫无顾忌地警示“人工智能的风险”了。而在10 年之前,辛顿与2名学生创立了深度神经网络研究公司DNNresearch,在ImageNet 图像识别竞赛中取得了突破性成绩,从而引起了科技巨头们的注意。谷歌收购了该公司,辛顿随即加入,负责“谷歌大脑”(Google Brain)的部分研究工作。

离开谷歌后,辛顿在多个场合表达了自己的担忧。

2024 年2 月,在牛津大学Romanes 讲座上,他说:“如果数字超级智能真的想要控制世界,我们不太可能阻止它。”

他越是使用ChatGPT,越是感到不安,他说它的理解水平似乎代表了人工智能的一个新时代。当辛顿开始他的研究时,没人认为他所从事的方向会成功,即使开始成功,也没有人想到会这么快成功。所以辛顿既期待它在很多领域作出贡献,也担心技术由于发展太快会被滥用。

辛顿担心人工智能可能会取代人类的工作,导致大量失业,尤其是在那些涉及例行任务的职位上,如律师助理、个人助理和翻译。辛顿认为人工智能创造的财富可能会加剧全球贫富差距,因为新增的财富可能会流向已经富有的人群,而不是穷人。

辛顿曾在社交媒体上这样写道:“毛毛虫吸取营养,而后化茧成蝶。人们已经提取了数十亿个理解的金块,而GPT-4 就是人类的蝴蝶。”很多人看到过这句话。

是辛顿开创的技术,导致了这种蜕变的发生,但按他现在的想法,蜕变还远没结束。辛顿在积极推动建设人工智能监管框架、建立人工智能安全共识,以免人工智能通向人类无法控制的未来。

不过,得知自己获得诺贝尔物理学奖之后,老爷子倒是没有再次表示“后悔”,而是顺手取消了核磁共振检查。

经典小说推荐

杂志订阅