仅如此,为防范“强人工智能”失控的风险,思虑再三,方然还是在一开始就启动了自称为“连锁安全机制”的并行研究,除nep_791外,还指示另外两处研究机构进行“强ai”的研究。
目的,不是要多个方案、优中选优,而是让目标不同的ai彼此制衡。
791研究机构里的“强ai”,初号机的目标,一开始被指定为“数学基础理论研究”,后续目标则是“科学技术的创造性、探索性研究”。
77研究机构的“强ai”,目标则是“防范自主系统的越权企图”,简单说来,这一强人工智能要去解决的问题,是利用自身的思维、认知能力,全力防范一个“自主系统”的独走,给出反制的措施。
最后,还有一个30研究机构,同样进行“强ai”的研发,初号机的目标是“安保系统权限与行为审查”。
不消说,这一强ai要盯防的,正是nep_77正在研究的强人工智能。
一环扣一环,三大研究机构的开发团队,实力大致相若,获得的资源也差不多一样,“以人工智能提防人工智能”的策略,则在逻辑上确保了项目整体的安全性。
原因很简单,倘若nep_77的“监控强ai之a