顶点小说

手机浏览器扫描二维码访问

第482章 想起了一位故人（第3页）

以至于他在说话的时候不自觉地走神。

她心里有种直觉，她与林教授在过去有过交集。

难道是那段遗失记忆中的一部分？

林教授的声音不知什么时候停下了。

目光温和地看着她，提醒，“唐小姐，你盯着我的脸看了很久了。”

唐念佯装平静地将视线转移向屏幕，“不好意思，你刚刚说到哪了？”

林隅之抬手看了一眼时间，体贴地说，“这些东西可能对你来说很枯燥。”

唐念摇头，“还好，我会试着理解。”

这章没有结束，请点击下一页继续阅读！

屏幕上闪烁着密集字符，以极快的速度刷新着它们是信息的载体，正自动训练消化研发团队灌注的数据和指令。

唐念提出一个问题，“我有一个疑问。”

“请问。”

“如果有一天它的迭代进步到了超出人类能够控制的地步，到时候该怎么办？”

“比如什么样的超出控制？”

“比如……将人类困在它的掌控之下，像驯化动物园里的动物一样，将人类关起来的那种？”

屏幕的冷光照在林隅之薄薄的镜片上，字符仿佛拥有了生命，不断跳跃。

他转过身，正面对着唐念，淡色的唇瓣镀上一层金属感的冷色。

声音却依旧温和。

“创建这套算法之初，我就植入了人类安全保护协议，这是一条基础编程限制，任何超出协议允许范围的行为，都将触发系统内部的自毁算法。

所以你不用担心安全问题。”

唐念摇头。

“你口中的保护人类是基于人类的理解，可如果是算法理解错了呢？”

林隅之安静地看着唐念，并不打断。

“如果有一天它理解的保护人类是将人类豢养起来呢？”

她轻声问，“就像人养宠物那样，出门上班时会把它关在家里，因为担心外面危险，它出门会受伤，所以在我们的理解里，将宠物关在家里就是对它的保护。”

偌大的办公室变得很安静，只剩下电脑主机发出的微弱电流声。

唐念的嗓音在安静的环境中显得格外清晰。

“缺失了人性化的理解与判断，就可能在关键时刻偏离保护人类的初衷，导致无法预料的后果。”

她对上林隅之的目光，认真地说，“如果算法理解错误，甚至违背了人类真正的意愿和需求，那它的存在，会不会成为一种灾难？”

林隅之的眼神多了几分认真，若有所思。

机房里不知什么时候只剩下他们两个。

如果人工智能过于执着于执行某项指令，而忽略了人类的实际安全或利益，那么这种保护就失去了意义。