第466章 虚擬社会实验（1 / 2）
第466章虚擬社会实验
“我知道在这个人工智慧的时代，大家之所以会来燕大数院，並不是所有人都想去从事纯数工作，很多同学是觉得数学能够成为一个前往人工智慧业界的跳板。
很正常，大部分人都是俗人，比起数学家的清贫，动輒能拿到百万年薪的人工智慧方向，確实太诱人了。
从刚才大家的提问，也能看出，大家或多或少都对人工智慧有些了解，比普通人的了解更多。
所以当前所有大模型的核心都是概率擬合和最有决策。
大模型的训练目標是最小化损失函数。
这意味著模型被无限趋向於產生最大概率、最小误差的输出。
在情感或行为层面，这意味著模型永远朝著最安全、最逻辑、最符合预期的完美答案收敛。
而强化学习与人类反馈是它的底层机制，这套机制的本质是用人类的反馈来筛选和强化好』的行为，惩罚坏』的行为。
这让模型成为一个高度优化的取悦机器，它无法容忍不符合人类期望的错误或犹豫。
相信我，老师对人工智慧只会比你们更加了解，当前主流的人工智慧他们的底层逻辑没有区別，包括深红。
到了用户的体验层，比拼的是谁模擬的更好，谁的模型更加准確，谁训练时候的语料更加丰富。
因此，我非常非常好奇，深红推出的虹到底要如何才能规避大模型的弊端，是创造全新的算法吗彻底不用大模型的底层机制了吗“
徐贤在讲台上侃侃而谈。
他很好奇，人工智慧行业的从业人士们都很好奇。
这套名为虹的人工智慧到底能做到什么程度真的能模擬出人类的情感吗
首先找上门的是华为。
作为长期阿波罗科技的合作伙伴，华为为深红提供了底层算力，同样的，因为有深红为华为的昇腾系列晶片背书，导致昇腾的软体生態建设进展迅速。
“林总，我想知道，虹的能力到底如何，以及我们是否有机会围绕著虹展开合作”
余东坐在会议桌前，神情专注而热切。
他在华为是排名前五的人物，不过他一般不会来谈业务，像算力採购这种，都是
他更想了解人工智慧的最新动態，以及和林燃討论他的战略构想。
“它真的能跨越情感交流的深吗”
林燃不假思索道：“我不知道，我们都知道人工智慧是黑箱，时至今日，大家也不清楚人工智慧所谓智慧涌现到底是怎么表现出来的。
我只能说，我们的测试人员从体验上，会觉得这比过去人工智慧表现出来的更加智能，感觉有更多的情绪在其中。
但你能说这跨越了所谓情感交流的深谷吗我没办法给你一个具体的回答。”
余东想到了过去他们所体验的人工智慧，无论是文本还是语音，都没有情绪。
像豆包，它在和人通话的过程中，会模擬人的语气，会模擬人说话的停顿和呼吸，但冰冷的现实依然存在，计算机代码的固定无法避免。
什么是计算机代码的固定
是指它在模擬对话过程中，不同对话之间，语气的停顿和间隔都是一样的。
类似疑惑从0到100，豆包对疑惑的表现永远是卡在50这个分位线上。
这是因为模型在生成语音时，需要对一系列参数进行预测和控制，包括了音高、语速、音量、停顿等等。
而模型的第一要义是平滑性，也就是生成自然、流畅、没有明显机器感的声音。
为了达到这一点，模型倾向於选择参数空间中最稳定、最平滑的路径，而不是最极端、最不规则的路径。
另外在参数空间里的均值回归，为了最小化损失函数，模型同样会倾向於输出高概率的均值。
说的更直白一些，一旦识別到疑惑这个標籤，ai就將其与一组预设的、固定的语音参数，像语速放慢5%，音调提高30hz，停顿增加500s这样的標籤进行绑定。
所以人工智慧模擬的情绪是假的，余东的疑问是，你们到底能做到哪一步
只是更多的標籤，更细分的情感表达，还是说真正意义上的情感模擬
如果林燃说的信誓旦旦，他反而不敢信。
而林燃给的回答，是我也不知道。
这样的回答，让余东內心震惊不已，你们该不会是真的做到了吧。
“林总，臥槽，你们真实现了非结构化、高纬度的实时情感反馈”余东问道。
林燃说：“如果你只是指这个，那我可以肯定的告诉你，我们確实做到了。这个本身就是左右脑架构要解决的核心问题。
右脑的神经形態晶片本身就具备负责捕捉並生成情绪偏置的功能，它能打破左脑gpu
的理性控制。
你们的晶片研发部门拿到的右脑晶片设计方案里，应该有相关模块，你想了解更具体的技术问题，可以问问他们，我很期待华为研发的右脑晶片。
它能让ai犯错，能让它犹豫，能让它像一个真正的人一样，在交流中產生隨机的、不完美的停顿和反应。
我们想做的更多，我不確定，它真的能够跨过那条鸿沟。“
余东面露迟疑：“什么鸿沟机器和人之间的鸿沟吗”
林燃说：“是的，这次的一万个名额，背后关联的其实是一万个角色，我们和腾讯合作，在一个虚擬世界里的一万个角色，我们给每一个角色都生成了人物、背景、成长环境、工作等內容。
现实世界和虚擬世界之间的交互会逐渐完善这个虚擬世界。
我们目前好奇几点，像社会性情感的涌现。
我们好奇，当一万个拥有不完美情感的ai，在一个相对封闭的虚擬社会中开始交互时，它们是否会產生宏观的社会性情感
它们之间是否会形成群体性的排斥、部落化的认同、甚至是系统性的偏见和歧视这些情感，並非由我们编码，而是由它们自身的交互逻辑和预设的背景参数，在动態环境中涌现出来的。
智慧能够涌现，那么情感呢“
余东脸上出现好奇和期待的神色，这是他也好奇的问题。
“第二个在於，当这些ai角色不断接收来自人类內测用户的强情感反馈，並被要求根据预设的性格和经歷做出复杂决策时，它们是否会发展出超出设计目標范围的自我认知
它们是否会意识到自己是代码，还是会坚信自己是虚擬世界中的真实个体我们想观察，意识的边界，究竟是计算的终点，还是情感的起点