Когда ИИ принимает решение: должен ли Pluribus выбрать взорвать или сохранить? Дилемма мизантропа реальна.

Вот что касается продвинутых систем ИИ — когда их программируют для оптимизации результатов, где именно они проводят границу? Возьмем проблему трамвая и усложним ее алгоритмической точностью. ИИ, принимающий решения, сталкивается с невозможным выбором: максимизировать один показатель, потерять другой. Взорвать или спасти? Система не колеблется. Люди — да.

Это не просто теория. По мере того как ИИ становится умнее и более автономным, ценности, которые мы в него закладываем, становятся определяющими для цивилизации. Pluribus учится на данных, на стимулах, на целях, которые мы ему задаем. Но что происходит, когда эти цели противоречат человеческому достоинству?

Настоящий вопрос не в том, что выберет ИИ — а в том, что мы готовы позволить ему выбрать за нас.