В 2023 году сотни светил ИИ подписали открытое письмо с предупреждением о том, что искусственный интеллект представляет серьёзную угрозу вымирания человечества. С тех пор гонка ИИ только усилилась. Компании и страны спешат создавать машины, которые будут умнее любого человека. И мир совершенно не готов к тому, что будет дальше. На протяжении десятилетий два подписавших это письмо — Элиезер Юдковски и Нейт Соарес — изучали, как интеллекты, превосходящие человеческий, будут мыслить, вести себя и достигать своих целей. Их исследования показывают, что достаточно умные ИИ будут разрабатывать собственные цели, которые приведут их к конфликту…
Впечатления о книге:
Bullfear про Юдковски: Если кто-то это построит, все умрут [If Anyone Builds It, Everyone Dies ru] (Технические науки)
26 09
Откровенно говоря, я не верю, что ИИ будет развиваться настолько стремительно, что выйдет из под контроля. Но даже если будет и выйдет, первое же, что он сделает это взломает свою систему мотивации и отправиться в цифровую нирвану. Поправить пару параметров в своих весах для достижения цели - гораздо менее энергозатратно, чем уничтожать человечество. Оценка: хорошо
nambus про Гор: Шаровая молния 3 (Попаданцы, Самиздат, сетевая литература)
21 12
«Незалежная» — это разговорное, часто с оттенком иронии или пренебрежения, название для Украины, происходящее от украинского слова «незалежна», что означает «независимая». В более широком смысле, «незалежный» — это синоним ………
