第四范式戴文渊：“三俗”非AI所愿，而是因人为设定导致

格隆汇5月31日｜第四范式公司创始人、CEO戴文渊做客格隆汇高端访谈《格隆博士会客厅》。戴文渊表示，即便数据量或算力再增加几个数量级，AI的行为目标仍然是人设定的。所以我觉得，相比于所谓“硅基和碳基的替代关系”，我们可能更需要关注“人设定的这个目标”。从理论上看，硅基生命其实并不知道什么叫贪婪，什么叫欲望——他如果做出在我们看来叫做贪婪的选择，那是因为选择贪婪可以让预测的准确率提升。所以归到源头，其实是我们人设定了一个什么样的目标。如果AI被设定错误目标，它一定会产生负面的影响。就好像现在推荐引擎会产生很多“三俗”内容，这些三俗内容并不是AI觉得你喜欢三俗，而是因为AI被设定目标，这个目标叫做让网民看APP的时长尽可能地长，然后AI给你推三俗的内容。

第四范式 3%

文章转载自：互联网，非本站原创