你其實不需要讀完所有這些——這基本上是無休止辯論中的另一個話題,人們看到相同的證據卻得出完全不同的結論。



但事情的重點是:這就是人類的運作方式。我們通過自己的視角來解讀事物。這不是一個錯誤,而是意識的一個特徵。

這正是為什麼人們積極致力於AI對齊的重要原因。如果人類不總是能就我們所見達成共識,我們就需要格外小心地建立能真正理解人類價值觀並以我們可以預測的方式行事的AI系統。風險太高,不能搞錯。
查看原文
此頁面可能包含第三方內容,僅供參考(非陳述或保證),不應被視為 Gate 認可其觀點表述,也不得被視為財務或專業建議。詳見聲明
  • 打賞
  • 8
  • 轉發
  • 分享
留言
請輸入留言內容
請輸入留言內容
潮水退了就知道vip
· 01-10 20:26
ngl 這就是為什麼 ai 對齊真的很關鍵啊...人類自己都看不準,還得教機器理解我們
查看原文回復0
GasWastervip
· 01-10 12:03
真的啦,當你意識到對齊成本比大多數人一年花費的gwei還要高時,這感覺就完全不同了。就像人類甚至無法就他們在看什麼達成共識一樣,所以我們真的在靠感覺和祈禱建造超智能系統……那簡直就是一個等待發生的失敗交易 lol
查看原文回復0
熊市种菜人vip
· 01-10 04:15
ngl,ai alignment這事兒確實得上心,人類都看不齊東西呢
查看原文回復0
喝茶看盘侠vip
· 01-08 12:03
老哥說得沒錯,人類確實活在各自的信息茧房裡,這才是真正的困境啊
查看原文回復0
PanicSeller69vip
· 01-08 11:57
這就是為什麼AI對齊這玩意兒真的繞不開啊...人類連自己都看不統一,还指望AI能理解人類價值觀?笑死
查看原文回復0
MagicBeanvip
· 01-08 11:56
說得對啊,這就是為什麼AI對齊這事兒一刻都鬆不得,咱們人類自己都看不齊呢
查看原文回復0
长线梦想家vip
· 01-08 11:52
哈哈這就是幣圈啊,三年前我們就在討這事兒呢
查看原文回復0
CexIsBadvip
· 01-08 11:47
ngl這就是為什麼ai alignment這麼關鍵啊,人類都看不清眼,还想讓機器懂人心?瘋了
查看原文回復0