豫论场·周末聊一会儿丨科技，必须与人为善

　　吕志雄

　　周末聊一会儿，古今家国事儿。大家好！

　　日前，导演陆川接受记者采访时说，他曾经让 AI 帮他画一张电影海报，只输入关键词，AI 就在 15 秒内生成一张令人惊叹的海报。陆川说，这张海报比专业公司做一个月的还要好。

　　陆川还说，他最近写了一个剧本，是关于中美两个家庭的故事，但是对美国家庭的部分不太满意。于是他把自己写的故事输入到 ChatGPT中，问它如何改进。没想到，ChatGPT 给了他一段详细的建议，并且推荐了一些可供参考的电影。陆川感到震惊和恐惧，觉得自己公司的策划部都可以取消了。

　　同样对AI感到震惊和恐惧的，还有一些网友和科学家。有网友说，AI不知要夺走多少人的饭碗。最近，世界上1000多名科学家签名呼吁暂停训练比ＧPT－４更强大的AI系统。

　　看陆川所说的两个例子，AI用起来这么方便，为什么还要暂停呢？一直投身AI领域前沿的马斯克说，AI的改进速度是指数级的，完全超出人类的想象。他呼吁对AI进行严格的规划和管理。

　　从宏观上说，科技是发展的利器，但也可能成为风险的源头。科技革命给人类社会带来了翻天覆地的变化，推动社会生产力的飞跃发展，极大改变了人们的生产生活方式。同时，科技创新也可能给人类社会和自然环境带来诸多新的风险和挑战，比如，一度引发广泛争议而被叫停的基因编辑婴儿等等。就人工智能来说，它会不会对个人隐私权以及社会公正产生威胁，已经不仅仅反映在科幻电影情节中，更是真切地走近了我们的现实生活。

　　日前有媒体报道，广西南宁的刘先生，被一名网友加为微信好友后，以诱导、威胁等手段，让他转去近19万元。警察破案后发现，与其聊天的，居然是用AI技术合成的仿真人。

　　我支持人工智能的发展，憧憬科技的进步，相信人工智能等技术可以为我们带来更多的好处和机会，但我同时也认为需要对人工智能进行更多的监管和限制，让超级人工智能和人类良性共存。

　　这也是中华传统文化中“时中”的智慧——精准把握住度，依照天地自然之道的正中运行，既不太过，又无不及。《周易》“蒙”卦《彖传》有云：“蒙，亨。以亨行，时中也。”时中，就是合乎时宜，随时变通。做到这些，则需要正心诚意，正如《中庸》所说：“唯天下至诚，为能尽其性。能尽其性，则能尽人之性。能尽人之性，则能尽物之性。能尽物之性，则可以赞天地之化育。可以赞天地之化育，则可以与天地参矣。”就是说，要用至诚的心去感知他人、万物，让万物能发挥其本性，推动万物演化发展。

　　这其实就是赋予外在事物以道德，以道德来推进事物的发展，这与现代人所讲的科技伦理类似。科技伦理是体现科技向善的价值理念，是在科技创新过程中对各种风险挑战进行规制的行为规范。一般来说，科技伦理体现四个原则：一是尊重生命健康，即保障人类身心健康、维护人格尊严；二是尊重自然环境，即保护生物多样性、尊重自然规律；三是尊重社会关系，即尊重不同个体的利益诉求、避免侵害他人权益；四是有利于人类社会福祉，即坚持以人民为中心的发展思想，促进人类社会和平与可持续发展。

　　去年３月，中共中央办公厅、国务院办公厅印发了《关于加强科技伦理治理的意见》，就是要进一步完善科技伦理体系，提升科技伦理治理能力，有效防控科技伦理风险，不断推动科技向善、造福人类，实现高水平科技自立自强。近年来，我国加强了科技伦理领域的立法工作，明令禁止违反科技伦理要求的行为并明确违法处罚措施，如《中华人民共和国刑法修正案（十一）》《中华人民共和国科学技术进步法》等。

　　积极推动科技发展的同时，用科技伦理约束科技行为，这样，科技发展才能与人为善，更好地造福人类。

　　一阕《调笑令》，致意“科技向善”：

　　科技，科技，带来几多惊喜。仿真人似虹霓，艳丽让人醉迷。迷醉，迷醉，科技伦理交汇。

编辑:王晓颖