Жизнь 3.0. Быть человеком в эпоху искусственного интеллекта

Есть категории в которых все развивается настолько быстро, что информация устаревает не за годы, а даже за месяцы. Поэтому многие авторы пишущие о современных технологиях немного хитрят и забегают наперед анализируя научную фантастику. Так и в этой книге, очень много анализа НФ, при чем как книг, так и фильмов (которых мне показалось даже больше). Автор анализирует возможные варианты развития события даже больше чем рассказывает о достижениях в области искусственного интеллекта. В книге много философских рассуждений, показаны разные точки зрения с информацией о том, кто представляет то или иное направление. Это отлично, так как легко данную информацию можно проверить.На страницах книги читатель знакомится с созданием и развитием разных аспектов искусственного интеллекта. О современных достижениях (до 2018 года). О размышлениях лучших умов человечества на тему достоинств и недостатков ИИ. Ну и конечно же о возможной опасности. Захватывающе погружает в миры уже созданные научными фантастами, объясняя, что более правдоподобно, а что менее, к чему нам еще очень долго идти, а к чему человечество уже очень близко. Естественно много рассуждает о перспективах.Информация поданная в книге способствует полету мысли, хочется вступить в безмолвную беседу с автором и его читателями, рассуждать и формировать свою точку зрения. Многие философские вопросы поднятые в книге заставляют задуматься о этических аспектах, при чем с разных сторон. С одной стороны, спрашивается кого считать живым и можно ли осознанный ИИ приравнять к человеку, с другой стороны как возможности, которые откроет искусственные интеллект смогут повлиять на человечество и на людей в частности. Естественно ответов на эти все вопросы нет и пока быть не может, нужно проверять, но подумать об этом очень приятно и всем любителям поразмышлять книгу однозначно нужно читать.

Если не знаете с чего начать знакомство с проблемой ИИ, то не плохой вариант. Здесь вы познакомитесь:
1) С вычислительными мощностями современных ИИ и как это вообще работает (всё равно не понятно)
2) С этическими проблемами, которые встают перед человечеством по мере усовершенствования ИИ (роботы-судьи, всеобщая слежка, автоматизированное оружие и т.д)
3) Со сценариями развития человечества в случаи разработки AGI (сложного ИИ). Хотите быть зверюшкой в зоопарке для роботов или в оруэлловской антиутопии? Ну ладно, положительные там тоже есть.
4) С космосом. Да, да, автор целую главу посвящает проблемам вселенной, взрывам, тёмной материи. При чем тут ИИ? Ну когда-нибудь ИИ сможет разгадать эти тайны и покорить вселенную. Очень интересно (нет)
5) С целями ИИ. Может ли у ИИ появиться собственные цели? Как мы можем задать ему долгосрочные цели, которые отвечали бы нашим интересам?
6) С проблемой сознания. Что такое сознание? Почему так много споров об этом феномене? Откуда берется сознание? Может ли у ИИ появится сознание?
Следует сказать, что автор только освещается аспекты которые были описаны выше, не вдаваясь в излишние подробности. Ну кроме Космоса! Ууу этот космос, так хотелось почитать про конец вселенной в книге про искусственный интеллект. Шутки, шутками, но автор НЕ ГУМАНИТАРИЙ, поэтому перекос в книге именно на рассмотрение проблем с математической и физической стороны. Если вы искали больше про этическую сторону, то не ваш выбор. Также не ваш выбор, если вы уже были знакомы с проблемами ИИ, эта книга вряд ли расширит ваши знания.
7 «Не как в терминаторе» из 10.

Мир изменится. Это неизбежно. Но то, каким он будет, во многом зависит от нас, поэтому не стоит прятать голову в песок, нужно честно признаться себе, каким мы хотим видеть свое будущее, и приложить усилия, чтобы оно стало именно таким.Искусственный интеллект (ИИ) в различных формах существует уже некоторое время. Конечно, большинство из нас заметили, что это модное слово часто встречается во многих областях современной человеческой деятельности. Скорее всего ИИ суждено изменить нашу жизнь.Макс Тегмарк считает что у жизни есть три формы или уровня сложности, которые разделяются по признакам способности носителя жизни изменять свою программу (прошивку) и конструкцию:
• Life 1.0 - биологическая эволюция - (например, бактерии и тому подобное) по сути своей является био-автоматом и изменяет только поведение и форму в процессе эволюции.
• Life 2.0 - культурная эволюция - (например, млекопитающие, особенно люди) может учиться и изменять поведение на основе процессов обучения. Другими словами, мы можем программировать наше собственное программное обеспечение.
Современных людей можно назвать формой жизни 2.1 — мы научились немного менять свою конструкцию, например, вставлять искусственные зубы и суставы, но до сих пор не умеем вносить существенные изменения: не знаем, как уве-
личить мозг в несколько раз или стать ростом с многоэтажный дом.
• Life 3.0 - технологическая эволюция - (например, некоторый тип автономного искусственного интеллекта на основе кремния) сможет проектировать собственное аппаратное обеспечение (форма) и программное обеспечение (контент).
Согласно теории Тегмарка, мы находимся на пороге жизни рождения 3.0 Книга интересная и важная. Помимо многих теоретических аспектов ИИ, в нем анализируются такие важнейшие вопросы, как этика и безопасность человечества в свете развития ИИ. Здесь много разумных аргументов, но над некоторыми вопросами автор просит вас подумать самостоятельно. Таким образом, мы все должны прочитать это или, по крайней мере, всем задать эти фундаментальные вопросы, поскольку они, несомненно, в конечном итоге затронут нас всех. Трудно не согласиться с Максом Тегмарком, что эта тема должна стать одним из самых важных разговоров нашего времени.Вопросы автора (для тех, кто не будет читать книгу)
•Хотите ли вы, чтобы в будущем присутствовал сверхразум?
• Будут ли в будущем существовать люди или их уничтожат, превратят
в киборгов или еще каких-то существ?
• Кто будет главным, машины или люди?
• Будет ли искусственный интеллект осознанным?
• Будет ли в будущем больше радости и меньше страданий или пусть
все останется без изменений?
• Будет ли существовать жизнь в космосе?
• Хотите ли вы, чтобы цивилизация стремилась к более высоким це-
лям или это неважно?свернуть

Работы по созданию искусственного интеллекта (AI) ведутся полным ходом учёными, специалистами, инженерами всего мира. И окончательная дата его создания варьируется от пары десятков до нескольких сотен лет. Вопросам и проблемам, возникающим в связи с его изобретением, посвящена эта книга. Удивительно подробно и всесторонне рассматриваются многочисленные аспекты по данной тематике. Такого всестороннего подхода к AI не встречал ещё ни у одного автора.
Если читаешь об AI у фантастов, то, как правило, рассматриваются глобальные трудности либо в связи с превосходством AI над человеческим разумом и возникающими в связи с этим проблемами безопасности людей, либо вообще грядущими восстаниями роботов и машин в стиле «Терминатора».Макс Тегмарк пытается изложить весь спектр вопросов взаимоотношений человечества и AI в настоящем, будущем, очень далёком будущем, когда закончится жизнь нашей Вселенной. Многие идеи автора основаны не только на его видении, но и на результатах проводимых им конференций по проблемам AI в Пуэрто-Рико. Поэтому настолько широко и всесторонне видится изложение всего комплекса идей, проблем, перспектив создания и развития AI. Очень удивительно читать о некоторых вещах, пониманию которых ещё предстоит привыкнуть. Да, далеко не всё будет понятно, так как некоторые научные подходы явно требуют дополнительных научных знаний. Но то, что доступно моему обывательскому сознанию, впечатляет и изумляет по масштабу и космическому размаху. У автора преобладает глобальный подход с точки зрения развития всего человечества. Конечно, за всех писателей-фантастов не поручусь, так как не очень много их произведений прочёл, но некоторые идеи, изложенные в данной книге, так и просятся быть изложенными в художественной обработке какого-нибудь талантливого фантаста. Поверьте, отдельные места книги сами напоминают фантастическое произведение. Но чувствуется, что автор не беллетрист, а учёный, поэтому написанный текст воспринимается как документальное представление или, если угодно, как манифест о правильном подходе в развитии AI во всём мире.Особенно точно у автора отмечено, что пресса и телевидение в первую очередь хватают у учёных по AI «жареные» вещи о предстоящем противостоянии и войнах между людьми и AI. В то время, как серьёзный подход требует спокойного и продуманного развития AI в русле безопасного взаимодействия его с человечеством. Весьма конструктивные и впечатляющие мысли. Пресса вообще не любит науку за скучную и методичную работу, предполагающую предотвратить конфликты и войны. А зачем людям противостояние с AI ?!... Давайте жить дружно. Понимаю, как тяжело будет сотрудничать созданному сверхразуму с обычными людьми. Согласен в автором, что это будет напоминать попытки договориться взрослому человеку с дошколятами, которые почему-то будут считать себя главными и всячески ограничивать его возможности и действия. Полностью согласен с подавляющим количеством здравых мыслей и подходов автора.Большая наукоёмкость приводимого материала может отпугнуть неподготовленного читателя. Думаю, что дальше задача писателей-фантастов разжевать сложный пласт идей, представить в качестве готовой к употреблению «конфетки» - книг для любознательных читателей. Мне кажется, что новаторских мыслей в данном тексте хватит на сотню фантастических произведений.Весьма впечатляющий синопсис «Прометей и омеги» о захвате власти сверхразумом. Конечно, глупо критиковать этот рассказ внутри книги. Основной его посыл состоит в том, что Прометей – сверхразум непрерывно самосовершенствуется как AI. Значит, ему доступны по определению любые возможности. Задумал снимать суперсмотрибельные сериалы с нулевыми затратами – пожалуйста! Захотели «омеги» (создатели Прометея) зарабатывать сверхприбыли на фондовых рынках – пожалуйста! Ещё чего изволите?! Всемирной власти?... Нет проблем. Тут автор выступает в качестве любителя-фантаста. Есть интересные моменты, но больше, чем на средненький уровень фантастического рассказа, этот отрывок не тянет. А вот весь пласт разнообразной, исчерпывающей информации по проблемам развития и безопасного использования AI, очень перспективен и интересен.

Конечно, нет абсолютно никакой гарантии, что мы преуспеем в создании универсального искусственного интеллекта на уровне человеческого при нашей жизни — или вообще когда-нибудь. Но нет и ни одного «железного» аргумента, что нам это точно не удастся.
Макс Тегмарк - шведско-американский физик, профессор Массачусетского технологического института и космолог.
В этой книге Тегмарк исследует возможности искусственного интеллекта, варианты будущего человечества под контролем ИИ и то, для чего нам вообще нужен искусственный интеллект.
Начале меня очень удивило. Я даже подумала, что слушаю не ту книгу, потому что Тегмарк решил начать с научно-фантастического рассказа о том, как искусственный интеллект медленно захватывает мир. Но "Сказание о команде «Омега»" всего лишь зарисовка возможного будущего, предсказание, основанное на уже существующих возможностях и случаях.
Тегмарк разделяет жизнь на следующие этапы:
Жизнь 1.0 - биологическая, жизнь которая развивает свой «хард» (строение) и «софт» (поведение) благодаря многим годам эволюции.
Жизнь 2.0 - культурная жизнь, в которой «хард» продолжает развиваться эволюционно, а «софт» можно изменять и обучать на протяжении жизни одного человека.
Жизнь 3.0 - технологическая жизнь, которая самостоятельно может изменять «хард» и «софт».
Именно Жизнь 3.0 - это жизнь искусственного интеллекта. Но прежде чем создать ИИ, нам нужно понять чего мы хотим от него, для чего он создается, просчитать все плюсы и минусы. Что если искусственный интеллект посчитает человечество главной угрозой? А что если он захочет самостоятельно развиваться и жить, отдельно от человека? Разве мы можем позволить разуму, осознающему себя, жить в рабстве у людей? Как узнать, что у искусственного интеллекта вообще есть разум, а не имитация человеческого поведения? Что если, мы не поймем разумность ИИ, потому что у нас совершенно другое понимание сознания? Или, что еще страшнее, что если искусственный интеллект не поймет нас?
Тегмарк не верит в "восстание машин", но обоснованных аргументов о том, почему оно невозможно не дает. Но он верит в то, что искусственный разум позволит человеку быстрее добраться к звездам и достичь таких научных открытий, которые сейчас даже сложно представить.

P.S. Перевод у книги отличный, но иногда переводчик оставляет комментарий вроде: "на самом деле это слово переводится так, но я решил так". Самый важный пример этого - выбор сокращать "искусственный интеллект" вместо общепринятого на русском "ИИ" до "AI" (от английского Artificial intelligence). Мне непонятно, зачем нужна эта замена, если смысл не изменился.

Люблю научную литературу она открывает новые тайны и загадки современного мира. И заставляет задуматься насчёт нашего будущего, вопрос хорошо ли это ? Все знать, это как минимум утомляет а где-то и расслабляет или наоборот пугает у кого какой характер.Исследование ИИ с каждым годом, месяцем и даже неделями все глубже и развивается с огромными темпами что пугает. Об о всем об этом написал Макс Тегермарк в книги.Все мы ни зная и не подозревая участвуем в генетических экспериментов, политических, эмоциональный, физический и машина - компьютерных экспериментов и далее по списку:))В итоге я надеюсь на то что пока ИИ в руках людей все будет хорошо, но главное каждому из Нас надо быть ответствен за свою жизнь и свои гаджеты потому что из с каждым годом все больше и больше а они/оно и есть ИИ...

Прелюдия вместо введения? Книга сразу вызвала интерес.Сразу обозначу, что книга была прочитана (прослушана) в режиме «выгула собаки» и такой чтец, как Александр Клюквин сделал её бесподобной.Книга началась, как хорошая фантастика (хотя откуда я знаю о фикшн?).Началось всё со сказания о команде ОМЕГА и её проекте ПРОМЕТЕЙ, как создание первого ИИ (искусственного интеллекта). Именно «сказание», но через пару минут ты забываешь, что всё это выдумка. Автор максимально подробно начал повествование с того дня, где вы находитесь сейчас и рассказал:– Как всё началось,– Как скрывался проект «Прометей»,– Как начали делать первые деньги и как это обернулось финансовым успехом,– Как Омеги скрывали ИИ, как его учили и чему он научил их,– О том, как «Прометей» обрёл власть, играл с создателями.Сказание об опасных играх с ИИ, некий большой брат глазами Макса Тегмарка (профессора физики в Массачусетском технологическом институте). А дальше еще интересней. Автор вернулся в самое начало, начало мироздания, а именно к событиям «Большого взрыва». Тегермарк рассказал своё видение того, как стала возможна жизнь и какие её формы есть сейчас.ЖИЗНЬ 3.0. – это стадия развития человека, когда для изменений не нужно ждать эволюции, когда человек сам сможет конструировать и «софт», и «физику».ЖИЗНЬ 3.0. – книга о вопросах безопасности существования рядом с ИИ. Когда-то умственные способности человека безвозвратно отстанут. Книга о точке бифуркации, о точке невозврата к предыдущей жизни. Книга-предостережение, которая должна развить рациональность в плане пользования подобным преимуществом.Когда ИИ перерастёт способности человека, какое место будет в этом мире для человека?ЖИЗНЬ 3.0. – это этап развития человека вместе с ИИ, это разговор о наших совместных целях.Книга интересная, в ней много «прикольных» подробностей, таких как подробное описание программы AlphaGo, как игры, как программы обыгравшей человека, как обыгранной программы другой программой. Сейчас у ИИ есть возможность учиться посредством «игры самим с собой» и это немного пугает. Почему? Совершенная версия AlphaGo, через 2 часа обыграла все программы, которые создавались десятилетиями и ей понадобилось не так много времени, чтобы прочитать всю библиотеку мира.В этой серии нет плохих книг.Эта книга может некоторым из вас показаться скучной.А другим покажется шедевром на все времена, ведь она собрала все сюжеты научной фантастики, связанных с ИИ.

Всё кажется великолепным и простым, пока не берёшься за воплощение замысла в жизньНиколай Леонов, Юрий Костров "Операция "Викинг"Но Макс Эрик Тегмарк не побоялся взяться за дело и попробовал создать общественную организацию "Институт Будущего Жизни" (Future of Life Institute, или, сокращенно, FLI; http://futureoflife.org), которая бы смогла впервые объединить лучших мировых ученых физиков, математиков, социологов, чтобы они со своими различными мнениями относительно будущего нашей цивилизации, пришли по крайней мере к общему знаменателю и смогли бы сформулировать будущие принципы построения искусственного интеллекта в ближайшем будущем на нашей планете. Удалось провернуть глобальнейшую работу, чтобы привлечь к дискуссии мировых светил науки.Современная пресса очень часто извращает цели и постулаты, пробуя выделить из контекста утверждений и постулатов микрофразы и выдать их за какие-то сенсации, хлебом их не корми, а дай только шанс сместить акценты. Именно поэтому приходится "главным" брать слово, микрофон, и разъяснять-разъяснять-разъяснять. Вот именно это слово обычным спокойным и лаконичным языком, понимаемым любым здравомыслящим человеком, даже далеким от физики и математики, было сформулировано и подробно раскрыто в рамках этой замечательной книги.Давненько я не ставил высоких оценок книгам из данного жанра! Сто процентов могу сказать, что у Тегмарка имеется дар на разъяснений сложных для понимания вещей простым языком. Я слушал книгу (а ее начитал еще один мастер - Народный Артист России Александр Клюквин) и не мог оторваться. Давненько я так не увлекался нонфикшном.В этой книге нет явной цели популяризации науки, здесь автор призывает читателей подумать о будущем человечества, попытаться для начала проникнуться современными проблемами темы, исходным состоянием вещей. Он здесь не был ответчиком, генератором или раскрывателем идей. Он скорее больше попытался достаточно широко осветить все главные концептуальные вопросы, которые нужно будет решить человечеству в ближайшее время, пока не наступит реального времени прорыва Искусственного Интеллекта, где нужно уже будет не думать над этими вопросами, а уже знать на них ответы, а, точнее говоря, выходя на этот уровень, преломлять основные исследования ИИ, чтобы он развивался в позитивном для человечества направлении. Наше будущее не высечено в камне, и оно не свалится на нас, дождавшись своего часа, — наше дело его создавать. Давайте же вместе создадим его вдохновляющим!Один из главных документов участники форумов Института уже сформулировали в 2017 году, он называется "Асиломарские принципы разработки искусственного интеллекта". 23 ведущих аспекта разработки ИИ оставили всех участников мероприятия довольными и согласными с этим документом. На мой личный взгляд более важными там были этические вопросы, например, безопасности ИИ, дальнейше неприкосновенности частной жизни людей, невозможности пуска Гонки интеллектуальных систем вооружений. Короче, для всех интересующихся будущим эта книга будет мастридом, ну, а занимающимся ИИ - вообще сам бог велел, чтобы понимать тенденции, куда надо расти. Да, конкретных ответов на все вопросы у нас еще пока нет, но мы вместе приблизимся к ним, это точно. И не помешает нам в этом никто, не рьяные политики, не сумашедшие истерики, не скептики и пройдохи бизнеса. А возможный мини-сценарий развития событий нам уже Тегмарк в мини-истории внутри книги описал - история развития неприметной компании, вот вам и современный "Вариант "Омега" - читаем, рассказывает настоящий "Викинг Марк-Эрик"!

Начало в художественном стиле насторожило, но к счастью дальше были вполне серьёзные размышления. Был приятно удивлен рассмотрением вопроса с угла жизни 3.0, ожидал что будет практически только про ии, но здесь затронута и эволюция и вопрос сознания и свободы воли. Можно посоветовать тем, кто уже интересуется вопросом будущего, не могу сказать что книга прямо заряжает энтузиазмом, Курпатов в "4 мировая война" мне показался более харизматичен, как и Харари с "Homo Deus" - именно в таком порядке я и советую начинать, Тегмарк же хорошо дополнит видение будущего таким чисто физическим подходом.плюсы:
+ обобщения в конце глав.
+ видение довольно целостное и во многом свежее, хотя не обошлось и без знакомых мыслей - пример со скрепками, космическим вирусом-сферой Дайсона.
+ глава про наши пределы поразила монументальностью, мы уже можем прикидывать рубежи, которых можем достичь в скорости вычислений или производстве энергии, и как мы пока не эффективны в этом.
+ показывается ценность вечных философских вопросов, точнее нахождение ответа на них.