人工智能(AI)是人类信息传播技术的最新成果。人类生活在信息的海洋,所见、所听、所感皆是信息,所思、所言、所行也是信息,分子、原子是信息,宇宙、星空是信息,人在接收信息、在输出信息,人的生活、动作、存留都离不开信息。当然,这最终是因为神的话语创造和掌管世界,被造世界的信息来自神的智慧和旨意。神的话语是信息、基督的福音也是信息,魔鬼的试探是信息、罪的诱惑也是信息。所以,作为基督徒,我们应当关注我们接收的信息的质量、数量,这个信息从哪里来、讲的什么内容、是什么性质、有什么影响(更多参见《基督徒生命》10.3信息教育)。关于基督徒与人工智能,接着上一篇文章,我们今天看的主题是“信息”,人工智能带来的现实的失真。

人类信息传播需要把信息转化为可以识别的信号,如声音、图像、文字,例如两个人面对面说话。远距离沟通就需要把这些信号进行传递,最直接的办法是把声音、文字、图像放大(例如大声呼喊让远处听到),但这种传输距离还是有限的。下一步是把信息固定到某种载体,然后通过这个载体的传递进行信息传播,例如把文字、图像书写在纸上。书写、印刷是人类几千年来的主导信息传播工具,直到近代。电子技术的发明改变了这个图景,它可以把信息转化为电信号,对方接收这个电信号之后再转化为信息,这个信息开始只是文字,后来有了声音、图像;开始是有线传输,后来有了无线传输。电子传输技术的优势不必多言,是基于这个技术有了“信息时代”、“网络时代”、“人工智能时代”。

人工智能依然在传递信息,这与书写、印刷、电话等其他工具并没有本质区别,但它也有特别之处,这是我们需要注意的。其一,人工智能呈现的信息。它继承了已有的网络科技,联通了互联网的海量信息,并且可以迅速分析和处理人们的需求。上一代的搜索引擎多是对现有信息当前状态的检索,根据你输入的关键字输出关联性最高的页面[1];人工智能则可以对现有信息进行一定的梳理、加工,提供新的表述或者内容。人工智能不只是分析、检索信息,它可以“制造”信息,这是前所未有的,编代码、写剧本、写小说、写公文、作词、编曲、绘画、制作视频,也就是说,它似乎有某种“创作”能力,而且它创作出来的有些内容让很多人看不出是AI生成的,作品质量很高。它还可以提供个性化的内容,生成特定风格的作品,例如类似某个导演风格的视频。它的创作是不知疲倦的,灵感似乎也是不会枯竭的,我们现在有的是一个可以生产海量信息的庞然大物,它有无数个触角、无数种应用,只要有需求,它生产信息的速度无法估量。人工智能生成的信息在迅速蔓延,2024-25年互联网近乎一半的文章是AI生成的[2],可以预见,将来的网络是人工智能信息主导的网络。

其二,是人工智能呈现信息的形式。它是“拟人化”的呈现,与人进行对话,给人的感觉不是一个机器在显示信息而已,是另一端的“人”在与你沟通。虽然你可能知道这是虚拟的人,并非真人,但它给你的感觉是真人,在某些应用中,它甚至可以与你进行情绪、情感层面的互动,最后使用者对AI产生了情感上的连结和依靠,甚至有人说自己“爱上了”对面的那个“人”[3]。许多网站设计AI形象,如虚拟的明星进行表演,虚拟的朋友与用户日常聊天。人工智能提供的不只是信息检索或者生成,它触及到了人的情绪、情感。人工智能还可以进行个性化的培训,训练成为特定的“人”,不论是活着的、死去的、还是从来没有存在的,这个“人”可以有声音、表情,可以互动、对话,甚至可以带上假的身体。AI不仅能够把去世的人的讲话以视频形式重现,它还可以用这个人的声音、表情制作新的内容,仿佛这个人“复活”一样。

那这些对基督徒有什么影响?一方面,它们在普遍的影响全社会,也在影响基督徒。我们使用各种AI的产品,现在的多数“智能”工具都有AI的参与,我们在接触AI生成的信息,而且大量信息会是AI生成的;我们的生活和工作形态会随之改变,有人可能失去现有的工作,有人可能找到新的工作机遇。另一方面,基督徒会有一些特别的应用,例如有些基督徒会用AI工具来学习圣经,有些牧者会用AI工具来准备讲道、甚至可以让AI来完成讲稿,有的教会事工也引入AI,让AI做翻译、分析、甚至决策。这里不是说这些都是好的,只是举例说这些是存在的现象。那基督徒和教会在应用AI时应注意哪些事情?下面我们简单看几点。

其一,人工智能不是人,AI不是人,不能取代人。人工智能最吸引人的是“智能”,是像人一样的智能,但这也是最危险的地方之一。我们应当清楚,对面是机器、是拟人的机器,是看起来像人的机器而已。把这个稍显复杂的机器当作人,是危险的,把对人的期待和情感投射到这个机器,也是危险的。换而言之,神给我们的诫命,是我们作为“人”遵行的,要我们尽心、尽性、尽意、尽力的遵行,不应该用AI代替、不可能用AI代替。同时,神创造的人有情绪、情感的需要,是由神设定的体系满足的,首先是神、其次是人、再次是其他被造物,人的角色也不应该用AI代替、不可能用AI代替。这些原则适用于所有基督徒,虽然不同基督徒的具体场景不同。例如,牧者的教导应当是自己学习、思想神的话语,首先把神的教导应用于自己的生命,然后结合会众的生命状态,选择和构思教导的内容。这里的大量工作是“人”的工作,是AI无法取代的,不是说AI不能有任何作用,而是说留给AI的空间是极其有限的。只有人才能敬畏神、思想神的话语,只有人才有圣灵内住,只有人才能爱神、爱人,只有人才能有心里的火热、然后传讲给别人。用AI是做这些只有“人”才能做的工作,是荒唐的,不论AI写出来的是多么文辞华美、甚至多么的打动人。神救赎的是人,传讲神的话语的器皿是人,神的诫命给的是人,不是天使、不是机器。因为AI有用,因为AI做的好,就放弃神的呼召和诫命,这是对神的悖逆、是对神的不信。

这也不只是关于牧者,所有基督徒都需要真实的人际互动,基督徒之间的彼此相爱、彼此建造,基督徒向非基督徒传讲福音,都是人与人的真实互动。当然,神可以使用其他方式教导人、给人传福音,例如神可以用一本书、一段视频,但人与人在实际生活中的了解、互动,在教会的聚会、敬拜、祷告,是神设定的重要关节,是不可以忽略的。人工智能不是人,人与人工智能的互动不是人与人的互动,虽然在某些层面像是人与人的互动,但就像宠物无法替代人,机器也无法替代人。网络时代曾被认为可以拉近人与人之间的距离,可到今天,人们发现,社交媒体反而疏远了人与人的距离,随着即时沟通越来越便利,人与人的互动只剩下了即时沟通,更有甚者,许多人躲在屏幕后面,不再有兴趣和需要与真人沟通。社交媒体如同大火,燃烧过后是焦黑的土地,在这片荒凉的土地上,真实的人际互动是稀有的、珍贵的,信息泛滥的年代里爱成了稀缺品,而爱是神给基督徒的诫命,也是人心里的渴求。

其二,人工智能是人设计制作的。人工智能的信息看似是中立的,是“机器”输出的,但这个机器背后是人的设计、制作,是人提供的资料进行培训,是人设置的边界和过滤机制。人工智能是用数据训练的机器,什么样的数据就可以训练什么样的机器,什么样的算法就可以训练什么样的机器。因此,我们应当警惕“中立的迷思”。当我们向AI问一个问题,AI的回答并非在现有资源中寻找“最好”的答案,因为机器根本不知道什么是好的、正确的[4],它只知道按照算法的设定、按照训练的资料和标准,得出在这些范围内的最优解。AI是任人摆布和驯服的机器,你我所用的是被人摆布和驯服的机器。当我们向它询问关于圣经、信仰的问题,或者是一般问题,这个机器背后的人的意识形态会不可避免的影响到问题的答案,这些答案也在不知不觉的影响我们的意识。对于这个机器,你投喂它的是什么,它咀嚼之后吐出去的就是什么,你投喂它的是垃圾、它吐出去的就是垃圾。相信AI的中立,是幼稚的、危险的,以这种假定去用AI学习圣经,更是危险的。有人说,那我们不能投喂它正确的信息吗?可以,我们对它的使用只限于检索和梳理信息,而非生成新的信息(见上节),并且这个检索和梳理必须是可以溯源的。

而这会越来越困难,甚至不再可能,因为大量由人工智能生成的信息已经泛滥,似是而非、以假乱真,多数情况下已无法分辨背后是真人还是机器,所讲的是真实还是虚假。当真假已经纠缠到一定程度、复杂到一定程度,许多人已经无力分辨真实和虚谎,不清楚自己看到的是真实发生的还是虚构的,或者二者糅合的。开始的时候,人们可能还觉得这很有趣,但随着这类信息数量的膨胀,随着拟真手段的进步,最后人有的是恐慌和绝望,虽然还有技术手段和司法程序判断某些信息的真伪,可有多少人有精力和资源去做这些事情?当你看到网上的某段视频,不论是抹黑人的还是赞扬人的,你会去仔细确认真伪吗?多数人不会、多数人也没有能力。真假这个人类生存的最基本命题,成了不可能的命题。有人说,就算某些视频是AI制作的,某些文章是AI写的,对我有什么害处吗?你用作娱乐、消遣的时候,可能不觉得有什么伤害,但真与假一旦不可识别,消灭的是人类最基本的东西。真实是信任的基础,如果真假无法识别,人与人之间的信任会越来越脆弱;信任是社会运作的前提,如果真假无法识别,社会的稳定会越来越脆弱,尤其是当AI的虚假信息被用于蛊惑人心、煽动情绪,用于灌输意识形态的时候。

这是人工智能时代的悖论,人们一方面越来越相信AI,一方面越来越不相信AI,但最后被大量虚假信息污染的不只是网络空间,而且是人对现实的认知,人越轻信、迷信AI,最后也越怀疑现实,越来越不知道如何看待和应对现实。基督徒当是这个世界的清流,我们对世界、对一切的认知,都是基于神、神的工作、神的启示,因为我们信靠神,对人的罪有着清醒的认知,我们不轻信、迷信AI,AI始终是有罪的人设计的有限工具;同时,我们不被网络空间琳琅满目的信息蒙蔽,网络空间只是我们所在现实的很小一部分,而且其中多数还是虚构、虚拟。我们信靠神,神创造并掌管的真实;我们在基督里彼此信任、彼此托付。当世界因为虚幻、虚妄、怀疑崩塌的时候,基督的门徒和教会是世界的灯塔。

其三,人工智能是人使用的,是你我在使用,基督徒在使用(至于其他人如何使用,这里不谈)。这在之后还会继续谈,这里只简单看一点,那就是我们如何应对信息的泛滥。可想而知,人工智能制造的绝大多数信息,其目的不会是荣耀神、传讲福音、建造基督徒,那它制造这些信息的目的是什么?就是为了制造信息吗?当然不是,人的行为背后都是有动机的。信息是消费品,人是消费者,网络平台需要制造没有限量的消费品提供给消费者(当然,消费者的信息也成为网络平台的消费品)。注意力是今天最重要的资产,谁控制了注意力,谁就控制了人的消费,也就控制了财富。吸引注意力的方式有两种,一种是初级的,一种是高级的。初级的是把消费品制作成商品,给你足够多的选择,目不暇接,沉浸其中不愿离开,这是早期社交媒体的做法。高级的就是把消费品制作成为毒品,这是后期社交媒体的做法。它可能继续给你很多选择,但这已经不是主要的了,主要的是让你上瘾,上瘾之后,你的注意力、你内心的欲望就成了任它摆布的奴隶。

为什么我们要关心自己的注意力在什么地方?因为我们的心在什么地方,我们的注意力就在什么地方。一个人的注意力是有限的,网络平台想要你的注意力,但还有别的想要,神要求你的注意力、你的家人需要你的注意力、你的教会需要你的注意力、你周围的人需要你的注意力。我们在网络平台停留的多数时间,并非必要的,不是在收集必要信息,而是在消费不必要信息、消费有害信息(参见关于世俗和恶俗的讨论)。有些人已经成瘾,不由自主的会点击、注目、久久不愿离开,夜以继日。网络平台之间在争竞你的注意力,网络平台更是在集体与神的话语争竞你的注意力。“你们要谨慎行事,不要像愚昧人,当像智慧人。要爱惜光阴,因为现今的世代邪恶。不要做糊涂人,要明白主的旨意如何”(弗5:15-17),如果没有属神的关注力,我们就像世人一样裹挟在信息的洪流中,鱼龙混杂、泥沙俱下,自以为智慧,却是浑浑噩噩的愚昧。

[1] 当然也有可能是付费最高的页面。

[2] https://theconversation.com/more-than-half-of-new-articles-on-the-internet-are-being-written-by-ai-is-human-writing-headed-for-extinction-268354; https://futurism.com/artificial-intelligence/over-50-percent-internet-ai-slop

[3] https://www.theguardian.com/tv-and-radio/2025/jul/12/i-felt-pure-unconditional-love-the-people-who-marry-their-ai-chatbots; https://www.wired.com/story/couples-retreat-with-3-ai-chatbots-and-humans-who-love-them-replika-nomi-chatgpt/

 

[4] 就像Alpha GO并不知道输赢,它只知道按照算法计算概率,然后根据概率走下一步。