Понятие искусственный интеллект (ИИ или AI) объединяет в себе не только технологии, позволяющие создавать интеллектуальные машины (включая компьютерные программы). ИИ – это также одно из направлений научной мысли.

Искусственный интеллект — определение

Интеллект – это психическая составляющая человека, которая обладает следующими способностями:

• приспособленческая;
• обучаемость посредством накопления опыта и знаний;
• способность применять знания и навыки для управления окружающей средой.

Интеллект объединяет в себе все способности человека к познанию действительности. При помощи него человек мыслит, запоминает новую информацию, воспринимает окружающую среду и так далее.

Под искусственным интеллектом понимается одно из направлений информационных технологий, которое занимается изучением и разработкой систем (машин), наделенных возможностями человеческого интеллекта: способность к обучению, логическому рассуждению и так далее.

В настоящий момент работа над искусственным интеллектом проводится путем создания новых программ и алгоритмов, решающих задачи так же, как это делает человек.

В связи с тем, что определение ИИ эволюционирует по мере развития этого направления, необходимо упомянуть AI Effect. Под ним понимается эффект, который создает искусственный интеллект, достигнувший некоторого прогресса. Например, если ИИ научился выполнять какие-либо действия, то сразу подключаются критики, которые доказывают, что эти успехи не свидетельствуют о наличии мышления у машины.

Сегодня развитие искусственного интеллекта идет по двум независимым направлениям:

• нейрокибернетика;
• логический подход.

Первое направление предусматривает исследование нейронных сетей и эволюционных вычислений с точки зрения биологии. Логический подход подразумевает разработку систем, которые имитируют интеллектуальные процессы высокого уровня: мышление, речь и так далее.

Первые работы в области ИИ начали вести в середине прошлого века. Пионером исследований в этом направлении стал Алан Тьюринг , хотя определенные идеи начали высказывать философы и математики в Средние века. В частности, еще в начале 20-го века была представлена механическое устройство, способное решать шахматные задачи.

Но по-настоящему это направление сформировалось к середине прошлого столетия. Появление работ по ИИ предваряли исследования о природе человека, способах познания окружающего мира, возможностях мыслительного процесса и других сферах. К тому времени появились первые компьютеры и алгоритмы. То есть, был создан фундамент, на котором зародилось новое направление исследований.

В 1950 году Алан Тьюринг опубликовал статью, в которой задавался вопросами о возможностях будущих машин, а также о том, способны ли они обойти человека в плане разумности. Именно этот ученый разработал процедуру, названную потом в его честь: тест Тьюринга.

После опубликования работ английского ученого появились новые исследования в области ИИ. По мнению Тьюринга, мыслящей может быть признана только та машина, которую невозможно при общении отличить от человека. Примерно в то же время, когда появилась статься ученого, зародилась концепция, получившая название Baby Machine. Она предусматривала поступательное развитие ИИ и создание машин, мыслительные процессы которых сначала формируются на уровне ребенка, а затем постепенно улучшаются.

Термин «искусственный интеллект» зародился позднее. В 1952 году группа ученых, включая Тьюринга, собралась в американском университете Дартмунда, чтобы обсудить вопросы, связанные с ИИ. После той встречи началось активное развитие машин с возможностями искусственного интеллекта.

Особую роль в создании новых технологий в области ИИ сыграли военные ведомства, которые активно финансировали это направление исследований. Впоследствии работы в области искусственного интеллекта начали привлекать крупные компании.

Современная жизнь ставит более сложные задачи перед исследователями. Поэтому развитие ИИ ведется в принципиально других условиях, если сравнивать их с тем, что происходило в период зарождения искусственного интеллекта. Процессы глобализации, действия злоумышленников в цифровой сфере, развитие Интернета и другие проблемы – все это ставит перед учеными сложные задачи, решение которых лежит в области ИИ.

Несмотря на успехи, достигнутые в этой сфере в последние годы (например, появление автономной техники), до сих пор не утихают голоса скептиков, которые не верят в создание действительно искусственного интеллекта, а не очень способной программы. Ряд критиков опасается, что активное развитие ИИ вскоре приведет к ситуации, когда машины полностью заменят людей.

Направления исследований

Философы пока не пришли к единому мнению о том, какова природа человеческого интеллекта, и каков его статус. В связи с этим в научных работах, посвященных ИИ, встречается множество идей, повествующих, какие задачи решает искусственный интеллект. Также отсутствует единое понимание вопроса, какую машину можно считать разумной.

Сегодня развитие технологий искусственного интеллекта идет по двум направлениям:

1. Нисходящее (семиотическое). Оно предусматривает разработку новых систем и баз знаний, которые имитируют высокоуровневые психические процессы типа речи, выражения эмоций и мышления.
2. Восходящее (биологическое). Данный подход предполагает проведение исследований в области нейронных сетей, посредством которых создаются модели интеллектуального поведения с точки зрения биологических процессов. На базе этого направления создаются нейрокомпьютеры.

Определяет способность искусственного интеллекта (машины) мыслить так же, как человек. В общем понимании этот подход предусматривает создание ИИ, поведение которого не отличается от людских действий в одинаковых, нормальных ситуациях. По сути, тест Тьюринга предполагает, что машина будет разумной лишь в том случае, если при общении с ней невозможно понять, кто говорит: механизм или живой человек.

Книги в жанре фантастика предлагают другой метод оценки возможностей ИИ. Настоящим искусственный интеллект станет в том случае, если он будет чувствовать и сможет творить. Однако этот подход к определению не выдерживает практического применения. Уже сейчас, например, создаются машины, которые обладают способностью реагировать на изменения окружающей среды (холод, тепло и так далее). При этом они не могут чувствовать так, как это делает человек.

Символьный подход

Успех в решении задач во многом определяется способностью гибко подходить к ситуации. Машины, в отличие от людей, интерпретируют полученные данные единым образом. Поэтому в решении задач принимает участие только человек. Машина проводит операции на основании написанных алгоритмов, которые исключают применение нескольких моделей абстрагирования. Добиться гибкости от программ удается путем увеличения ресурсов, задействованных в ходе решения задач.

Указанные выше недостатки характерны для символьного подхода, применяемого при разработке ИИ. Однако данное направление развития искусственного интеллекта позволяет создавать новые правила в процессе вычисления. А проблемы, возникающие у символьного подхода, способны решить логические методы.

Логический подход

Этот подход предполагает создание моделей, имитирующих процесс рассуждения. В его основе заложены принципы логики.

Данный подход не предусматривает применение жестких алгоритмов, которые приводят к определенному результату.

Агентно-ориентированный подход

Он задействует интеллектуальных агентов. Этот подход предполагает следующее: интеллект представляет собой вычислительную часть, посредством которой достигаются поставленные цели. Машина играет роль интеллектуального агента. Она познает окружающую среду при помощи специальных датчиков, а взаимодействует с ней посредством механических частей.

Агентно-ориентированный подход уделяет основное внимание разработке алгоритмов и методов, которые позволяют машинам сохранять работоспособность в различных ситуациях.

Гибридный подход

Этот подход предусматривает объединение нейронных и символьных моделей, за счет чего достигается решение всех задач, связанных с процессами мышления и вычислений. Например, нейронные сети могут генерировать направление, в котором двигается работа машины. А статическое обучение предоставляет тот базис, посредством которого решаются задачи.

Согласно прогнозам экспертов компании Gartner , к началу 2020-х годов практически все выпускаемые программные продукты будут использовать технологии искусственного интеллекта. Также специалисты предполагают, что около 30% инвестиций в цифровую сферу будут приходиться на ИИ.

По мнению аналитиков Gartner, искусственный интеллект открывает новые возможности для кооперации людей и машин. При этом процесс вытеснения человека ИИ невозможно остановить и в будущем он будет ускоряться.

В компании PwC считают, что к 2030 году объем мирового валового внутреннего продукта вырастет примерно на 14% за счет быстрого внедрения новых технологий. Причем примерно 50% прироста обеспечит повышение эффективности производственных процессов. Вторую половину показателя составит дополнительная прибыль, полученная за счет внедрения ИИ в продукты.

Первоначально эффект от использования искусственного интеллекта получит США, так как в этой стране созданы лучшие условия для эксплуатации машин на ИИ. В дальнейшем их опередит Китай, который извлечет максимальную прибыль, внедряя подобные технологии в продукцию и ее производство.

Эксперты компании Saleforce заявляют, что ИИ позволит увеличить доходность малого бизнеса примерно на 1,1 триллиона долларов. Причем произойдет это к 2021 году. Отчасти добиться указанного показателя удастся за счет реализации решений, предлагаемых ИИ, в системы, отвечающие за коммуникацию с клиентами. Одновременно с этим будет улучаться эффективность производственных процессов благодаря их автоматизации.

Внедрение новых технологий также позволит создать дополнительные 800 тысяч рабочих мест. Эксперты отмечают, что указанный показатель нивелирует потери вакансий, произошедшие из-за автоматизации процессов. По прогнозу аналитиков, основанных на результатах опроса среди компаний, их расходы на автоматизацию производственных процессов к началу 2020-х годов возрастут примерно до 46 миллиардов долларов.

В России также ведутся работы в области ИИ. На протяжении 10 лет государство профинансировало более 1,3 тысячи проектов в данной сфере. Причем большая часть инвестиций пошло на развитие программ, не связанных с ведением коммерческой деятельности. Это показывает, что российское бизнес-сообщество пока не заинтересовано во внедрении технологий искусственного интеллекта.

В общей сложности на указанные цели в России инвестировали порядка 23 миллиардов рублей. Размер государственных субсидий уступает тем объемам финансирования сферы ИИ, которые демонстрируют другие страны. В США на эти цели каждый год выделяют порядка 200 миллионов долларов.

В основном в России из госбюджета выделяют средства на развитие технологий ИИ, которые затем применяются в транспортной сфере, оборонной промышленности и в проектах, связанных с обеспечением безопасности. Это обстоятельство указывает на то, что в нашей стране чаще инвестируют в направления, которые позволяют быстро добиться определенного эффекта от вложенных средств.

Приведенное выше исследование также показало, что в России сейчас накоплен высокий потенциал для подготовки специалистов, которые могут быть задействованы в разработке технологий ИИ. За 5 последних лет обучение по направлениям, связанным с ИИ, прошли примерно 200 тысяч человек.

Технологии ИИ развиваются в следующих направлениях:

• решение задач, позволяющих приблизить возможности ИИ к человеческим и найти способы их интеграции в повседневность;
• разработка полноценного разума, посредством которого будут решаться задачи, стоящие перед человечеством.

В настоящий момент исследователи сосредоточены на разработке технологий, которые решают практические задачи. Пока ученые не приблизились к созданию полноценного искусственного разума.

Разработкой технологиями в области ИИ занимаются многие компании. «Яндекс» не один год применяет их в работе поисковика. С 2016 года российская IT-компания занимается исследованиями в области нейронных сетей. Последние изменяют характер работы поисковиков. В частности, нейронные сети сопоставляют введенный пользователем запрос с неким векторным числом, который наиболее полно отражает смысл поставленной задачи. Иными словами, поиск ведется не по слову, а именно по сути информации, запрашиваемой человеком.

В 2016 году «Яндекс» запустил сервис «Дзен» , который анализирует предпочтения пользователей.

У компании Abbyy недавно появилась система Compreno . При помощи нее удается понять на естественном языке написанный текст. На рынок также сравнительно недавно вышли и другие системы, основанные на технологиях искусственного интеллекта:

1. Findo. Система способна распознавать человеческую речь и занимается поиском информации в различных документах и файлах, используя при этом сложные запросы.
2. Gamalon. Эта компания представила систему со способностью к самообучению.
3. Watson. Компьютер компании IBM, использующий в процессе поиска информации большое количество алгоритмов.
4. ViaVoice. Система распознавания человеческой речи.

Крупные коммерческие компании не обходят стороной достижения в области искусственного интеллекта. Банки активно внедряют подобные технологии в свою деятельность. При помощи систем, основанных на ИИ, они проводят операции на биржах, ведут управление собственностью и выполняют иные операции.

Оборонная промышленность, медицина и другие сферы внедряют технологии распознавания объектов. А компании, занимающие разработкой компьютерных игр, применяют ИИ для создания очередного продукта.

В течение нескольких последних лет группа американских ученых ведет работу над проектом NEIL , в рамках которого исследователи предлагают компьютеру распознать, что изображено на фотографии. Специалисты предполагают, что таким образом они смогут создать систему, способную самообучаться без внешнего вмешательства.

Компания VisionLab представила собственную платформу LUNA , которая может в режиме реального времени распознавать лица, выбирая их из огромного кластера изображений и видеороликов. Данную технологию сегодня применяют крупные банки и сетевые ретейлеры. При помощи LUNA можно сопоставлять предпочтения людей и предлагать им соответствующие товары и услуги.

Над подобными технологиями работает российская компания N-Tech Lab . При этом ее специалисты питаются создать систему распознавания лиц, основанную на нейронных сетях. По последним данным, российская разработка лучше справляется с поставленными задачами, чем человек.

По мнению Стивена Хокинга, развитие технологий искусственного интеллекта в будущем приведет к гибели человечества. Ученый отметил, что люди из-за внедрения ИИ начнут постепенно деградировать. А в условиях естественной эволюции, когда человеку для выживания необходимо постоянно бороться, этот процесс неминуемо приведет к его гибели.

В России положительно рассматривают вопрос внедрения ИИ. Алексей Кудрин однажды заявил о том, что использование таких технологий позволит примерно на 0,3% от ВПП уменьшить расходы на обеспечение работы государственного аппарата. Дмитрий Медведев предрекает исчезновение ряда профессий из-за внедрения ИИ. Однако чиновник подчеркнул, что использование таких технологий приведет к бурному развитию других отраслей.

По данным экспертов Всемирного экономического форума, к началу 2020-х годов в мире из-за автоматизации производства рабочих мест лишаться около 7 миллионов человек. Внедрение ИИ с высокой долей вероятности вызовет трансформацию экономики и исчезновение ряда профессий, связанных с обработкой данных.

Эксперты McKinsey заявляют, что активнее процесс автоматизации производства будет проходить в России, Китае и Индии. В этих странах в ближайшее время до 50% рабочих потеряют свои местах из-за внедрения ИИ. Их место займут компьютеризированные системы и роботы.

По данным McKinsey, искусственный интеллект заменит собой профессии, предусматривающие физический труд и обработку информации: розничная торговля, гостиничный персонал и так далее.

К середине текущего столетия, как полагают эксперты американской компании, число рабочих мест во всем мире сократится примерно на 50%. Места людей займут машины, способные проводить аналогичные операции с той же или более высокой эффективностью. При этом эксперты не исключают варианта, при котором данный прогноз будет реализован раньше указанного срока.

Другие аналитики отмечают вред, который могут нанести роботы. Например, эксперты McKinsey обращают внимание на то, что роботы, в отличие от людей, не платят налоги. В результате из-за снижения объемов поступлений в бюджет государство не сможет поддерживать инфраструктуру на прежнем уровне. Поэтому Билл Гейтс предложил ввести новый налог на роботизированную технику.

Технологии ИИ повышают эффективность работы компаний за счет снижения числа совершаемых ошибок. Кроме того, они позволяют повысить скорость выполнения операций до того уровня, который не может достигнуть человек.

Специалисты отдела Facebook по исследованию возможностей искусственного интеллекта (ИИ) приняли решение об отключении одной из созданных ими систем ИИ после того, как выяснилось, что боты придумали свой собственный язык для общения, непонятный для людей. Эксперты обсуждают варианты того, до чего могли бы договориться боты, если бы их вовремя не остановили, и призывают ввести регулирование этой области технологий, чтобы ИИ не вышел из-под контроля человека.

В июне нынешнего года специалисты отдела Facebook по исследованию возможностей искусственного интеллекта (FAIR) опубликовали исследование о том, как они занимаются обучением ботов диалогам с элементами согласования условий, достижения компромисса, то есть такому общению, которое обычный человек ведет ежедневно в разных ситуациях. Обучение шло успешно, однако в какой-то момент ученые FAIR обнаружили, что боты перешли с понятного английского на какой-то свой вариант языка с использованием английских слов, не имеющий смысла для человека. Во избежание непредсказуемых последствий - боты могли договориться о чем-то неизвестном - ученые отключили эту систему ИИ и запрограммировали дальнейшее общение ботов только на английском языке.

Экспертное сообщество в обсуждении этого случая чаще всего вспоминало фильм «Терминатор», в котором еще в 1984 году был описан случай обретения искусственным интеллектом Скайнет (SkyNet) свободы воли и творческих способностей.

Ведению диалога двух ботов ученые FAIR обучали на примере ситуации, когда нужно поделить между собой ряд каких-либо предметов, имеющих разную ценность для каждого из собеседников. Например, им предложили поделить две книги, одну шляпу и три мяча, оба бота не знали, какую ценность каждый из этих предметов имеет для другого. Диалог выглядел примерно так: «Я хочу взять шляпу и мячи», «Шляпа нужна мне самому, но я могу отдать тебе все книги», «Книги мне не нужны, можешь забрать себе их и один мяч», «Два мяча», «Договорились». В зависимости от того, насколько успешно и быстро удавалось договориться виртуальным собеседникам, их поощряли соответствующими баллами.

Спустя какое-то время на новом этапе исследований ученые вдруг увидели, что боты начали говорить что-то невнятное. Диалог приобрел следующую форму: «Я могу могу я я все остальное», «Мячи ноль для меня для меня для меня для меня для меня для меня для меня для меня для». Поначалу ученые решили, что допустили какую-то ошибку в программировании. Однако дальнейший анализ ситуации показал, что система ИИ с возможностью обучения и саморазвития просто позволила ботам найти новый способ достижения цели - вести диалог с наибольшей скоростью и большей эффективностью (каждый получает награду в зависимости от того, насколько успешно будет завершен диалог), и для этого собеседники перешли на более удобный в данной ситуации язык. Ученые приняли решение отключить эту систему ИИ во избежание непредвиденных последствий.

Как пояснил в интервью ресурсу Fast Co. Design один из участников FAIR Дхрув Батра, «от общения на английском языке не было никакой выгоды»,

ботам не было предложено поощрений за нормальное человеческое общение и не было поставлено ограничений на использование определенного языка, поэтому они начали перестраивать язык на свой лад.

«Боты отошли от использования понятного языка и начали изобретать для себя словесные коды,- пояснил ученый.- Ну, как, например, если бы я сказал какое-то слово пять раз, то вы бы это поняли как то, что я хочу пять штук чего-то. Это не слишком отличается от того, как люди создают в языке какие-то сокращения».

Но в то время как люди одной профессии могут не понимать специальных терминов и сокращений, принятых в другой профессии и понятных другим специалистам, ученые задумались, а нужно ли позволять ИИ делать то же самое? Велика вероятность того, отмечают в FAIR, что человек никогда не сможет понять язык ботов. «Важно не забывать, что нет людей, владеющих каким-то человеческим языком и языком ИИ»,- говорит Дхрув Батра. По его словам,

человек уже не понимает, насколько сложно мыслят системы ИИ, потому что человек не может увидеть их мыслительный процесс

А если они еще начнут общаться между собой, то это только усложнит проблему.

Ученые же подчеркивают, что сейчас их больше интересует возможность общения ботов с людьми, так как это применимо в жизни. Над аналогичной проблемой сейчас работают не только в FAIR, но и в Microsoft, Google, Amazon, Apple. Существующие наработки уже позволяют добиться от систем ИИ ведения простых диалогов с человеком и выполнения простых задач, как, например, забронировать столик в ресторане.

Ранее основатель и глава компании Tesla Илон Маск заявил , что человеку необходимо быть очень осторожным с ИИ, учитывая, что машины и программы могут многое сделать лучше человека. «Я работаю с самыми передовыми технологиями ИИ и думаю, что людям нужно быть очень внимательными к этой проблеме»,- сказал он на летней конференции Национальной ассоциации губернаторов, подчеркнув, что ИИ представляет самую большую опасность для человечества. «ИИ представляет опасность для существования человеческой цивилизации, какую не представляют автокатастрофы, авиакатастрофы, бракованные лекарства или испорченные продукты»,- отметил он. По мнению Илона Маска, необходимо жестко регулировать исследования ИИ, чтобы в любой момент любое исследование можно было остановить и убедиться в его безопасности. О возможной опасности ИИ говорили в последние годы также основатель Microsoft Билл Гейтс, а также известный английский физик-теоретик Стивен Хокинг .

Алена Миклашевская

Чем полезен искусственный интеллект

Джон Тума, директор направления Aster Analytic Strategy корпорации Teradata, считает, что опасения Билла Гейтса относительно искусственного интеллекта неоправданны. По мнению Тумы, машины станут умнее людей, но это человечеству только на пользу.

Куда заведет человека развитие технологий

Китай планирует стать мировым центром искусственного интеллекта к 2030 году. Правительство КНР утвердило план из трех этапов по развитию и внедрению соответствующих технологий, сообщает издание ZDNet. Пока мировые корпорации ищут помощника человеку, ученые бьют тревогу и говорят, что искусственный разум может победить биологический.

Искусственный интеллект (ИИ, англ. Artificial intelligence, AI) - наука и технология создания интеллектуальных машин, особенно интеллектуальных компьютерных программ. ИИ связан со сходной задачей использования компьютеров для понимания человеческого интеллекта, но не обязательно ограничивается биологически правдоподобными методами.

Что такое искусственный интеллект

Интеллект (от лат. intellectus - ощущение, восприятие, разумение, понимание, понятие, рассудок), или ум - качество психики, состоящее из способности приспосабливаться к новым ситуациям, способности к обучению и запоминанию на основе опыта, пониманию и применению абстрактных концепций и использованию своих знаний для управления окружающей средой. Интеллект - это общая способность к познанию и решению трудностей, которая объединяет все познавательные способности человека: ощущение, восприятие, память, представление, мышление, воображение.

В начале 1980-х гг. ученые в области теории вычислений Барр и Файгенбаум предложили следующее определение искусственного интеллекта (ИИ):

Позже к ИИ стали относить ряд алгоритмов и программных систем, отличительным свойством которых является то, что они могут решать некоторые задачи так, как это делал бы размышляющий над их решением человек.

Основные свойства ИИ - это понимание языка, обучение и способность мыслить и, что немаловажно, действовать.

ИИ – комплекс родственных технологий и процессов, развивающихся качественно и стремительно, например:

• обработка текста на естественном языке
• экспертные системы
• виртуальные агенты (чат-боты и виртуальные помощники)
• системы рекомендаций.

Национальная стратегия развития искусственного интеллекта

• Основная статья: Национальная стратегия развития искусственного интеллекта

Исследования в сфере ИИ

• Основная статья: Исследования в сфере искусственного интеллекта

Стандартизация в области ИИ

2019: Эксперты ISO/IEC поддержали предложение о разработке стандарта на русском языке

16 апреля 2019 года стало известно, что подкомитет ISO /IEC по стандартизации в области искусственного интеллекта поддержал предложение Технического комитета «Кибер-физические системы », созданного на базе РВК , о разработке стандарта «Artificial intelligence. Concepts and terminology» на русском языке в дополнение к базовой английской версии.

Терминологический стандарт «Artificial intelligence. Concepts and terminology» является основополагающим для всего семейства международных нормативно-технических документов в области искусственного интеллекта. Кроме терминов и определений, данный документ содержит концептуальные подходы и принципы построения систем с элементами , описание взаимосвязи AI с другими сквозными технологиями, а также базовые принципы и рамочные подходы к нормативно-техническому регулированию искусственного интеллекта.

По итогам заседания профильного подкомитета ISO/IEC в Дублине эксперты ISO/IEC поддержали предложение делегации из России о синхронной разработке терминологического стандарта в сфере AI не только на английском, но и на русском языке. Ожидается, что документ будет утвержден в начале 2021 года.

Развитие продуктов и услуг на базе искусственного интеллекта требует однозначной трактовки используемых понятий всеми участниками рынка. Стандарт терминологии позволит унифицировать «язык», на котором общаются разработчики, заказчики и профессиональное сообщество, классифицировать такие свойства продуктов на базе ИИ, как «безопасность», «воспроизводимость», «достоверность» и «конфиденциальность». Единая терминология также станет важным фактором для развития технологий искусственного интеллекта в рамках Национальной технологической инициативы – алгоритмы ИИ используют более 80% компаний в периметре НТИ. Кроме того, решение ISO/IEC позволит укрепить авторитет и расширить влияние российских экспертов при дальнейшей разработке международных стандартов.

В ходе заседания эксперты ISO/IEC также поддержали разработку проекта международного документа Information Technology - Artificial Intelligence (AI) - Overview of Computational Approaches for AI Systems, в котором Россия выступает в качестве соредактора. Документ предоставляет обзор современного состояния систем искусственного интеллекта, описывая основные характеристики систем, алгоритмы и подходы, а также примеры специализированных приложений в области AI. Разработкой этого проекта документа займется специально созданная в рамках подкомитета рабочая группа 5 «Вычислительные подходы и вычислительные характеристики систем Искусственного интеллекта» (SC 42 Working Group 5 «Computational approaches and computational characteristics of AI systems»).

В рамках работы на международном уровне делегации из России удалось добиться ряда знаковых решений, которые будут иметь долгосрочный эффект для развития в стране технологий искусственного интеллекта. Разработка русскоязычной версии стандарта, еще и со столь ранней фазы – гарантия синхронизации с международным полем, а развитие подкомитета ISO/IEC и инициация международных документов с российским соредакторством – это фундамент для дальнейшего продвижения интересов российских разработчиков за рубежом», - прокомментировал.

Технологии искусственного интеллекта широко востребованы в самых разных отраслях цифровой экономики . Среди основных факторов, сдерживающих их полномасштабное практическое использование, - неразвитость нормативной базы. При этом именно проработанная нормативно-техническая база обеспечивает заданное качество применения технологии и соответствующий экономический эффект.

По направлению искусственный интеллект ТК «Кибер-физические системы» на базе РВК ведет разработку ряда национальных стандартов, утверждение которых запланировано на конец 2019 – начало 2020 года. Кроме того, совместно с рыночными игроками идет работа по формированию Плана национальной стандартизации (ПНС) на 2020 год и далее. ТК «Кибер-физические системы» открыт для предложений по разработке документов со стороны заинтересованных организаций.

2018: Разработка стандартов в области квантовых коммуникаций, ИИ и умного города

Технический комитет «Кибер-физические системы» на базе РВК совместно с Региональным инжиниринговым центром «СэйфНет» 6 декабря 2018 года начали разработку комплекса стандартов для рынков Национальной технологической инициативы (НТИ) и цифровой экономики . К марту 2019 года планируется разработать документы технической стандартизации в области квантовых коммуникаций , и , сообщили в РВК. Подробнее .

Влияние искусственного интеллекта

Риск для развития человеческой цивилизации

Влияние на экономику и бизнес

• Влияние технологий искусственного интеллекта на экономику и бизнес

Влияние на рынок труда

Предвзятость искусственного интеллекта

В основе всего того, что является практикой ИИ (машинный перевод, распознавание речи, обработка текстов на естественных языках, компьютерное зрение , автоматизация вождения автомобилей и многое другое) лежит глубинное обучение. Это подмножество машинного обучения , отличающееся использованием моделей нейронных сетей , о которых можно сказать, что они имитируют работу мозга, поэтому их с натяжкой можно отнести к ИИ. Любая модель нейронной сети обучается на больших наборах данных , таким образом, она обретает некоторые «навыки», но то, как она ими пользуется - для создателей остается не ясным, что в конечном счете становится одной из важнейших проблем для многих приложений глубинного обучения. Причина в том, что такая модель работает с образами формально, без какого-либо понимания того, что она делает. Является ли такая система ИИ и можно ли доверять системам, построенным на основе машинного обучения? Значение ответа на последний вопрос выходит за пределы научных лабораторий. Поэтому заметно обострилось внимание средств массовой информации к явлению, получившему название AI bias. Его можно перевести как «необъективность ИИ» или «пристрастность ИИ». Подробнее .

Рынок технологий искусственного интеллекта

Рынок ИИ в России

Мировой рынок ИИ

Сферы применения ИИ

Сферы применения ИИ достаточно широки и охватывают как привычные слуху технологии, так и появляющиеся новые направления, далекие от массового применения, иначе говоря, это весь спектр решений, от пылесосов до космических станций. Можно разделить все их разнообразие по критерию ключевых точек развития.

ИИ - это не монолитная предметная область. Более того, некоторые технологические направления ИИ фигурируют как новые подотрасли экономики и обособленные сущности, одновременно обслуживая большинство сфер в экономике.

Развитие применения использования ИИ ведет к адаптации технологий в классических отраслях экономики по всей цепочке создания ценности и преобразует их, приводя к алгоритмизированию практически всего функционала, от логистики до управления компанией.

Использование ИИ в целях обороны и в военном деле

Использование в образовании

Использование ИИ в бизнесе

ИИ в борьбе с мошенничеством

11 июля 2019 года стало известно о том, что всего через два года искусственный интеллект и машинное обучение будут использоваться для противодействия мошенничеству в три раза чаще, чем на июль 2019 года. Такие данные были получены в ходе совместного исследования компании SAS и Ассоциации сертифицированных специалистов по расследованию хищений и мошенничества (Association of Certified Fraud Examiners, ACFE). На июль 2019 года такие антифрод -инструменты уже используют в 13% организаций, принявших участие в опросе, и в еще 25% заявили, что планируют их внедрить в течение ближайшего года-двух. Подробнее .

ИИ в электроэнергетики

• На уровне проектирования: улучшенное прогнозирование генерации и спроса на энергоресурсы, оценка надежности энергогенерирующего оборудования, автоматизация повышения генерации при скачке спроса.
• На уровне производства: оптимизация профилактического обслуживания оборудования, повышение эффективности генерации, снижение потерь, предотвращение краж энергоресурсов.
• На уровне продвижения: оптимизация ценообразования в зависимости от времени дня и динамическая тарификация.
• На уровне предоставления обслуживания: автоматический выбор наиболее выгодного поставщика, подробная статистика потребления, автоматизированное обслуживание клиентов, оптимизация энергопотребления с учетом привычек и поведения клиента.

ИИ в производственной сфере

• На уровне проектирования: повышение эффективности разработки новых продуктов, автоматизированная оценка поставщиков и анализ требований к запчастям и деталям.
• На уровне производства: совершенствование процесса исполнения задач, автоматизация сборочных линий, снижение количества ошибок, уменьшение сроков доставки сырья.
• На уровне продвижения: прогнозирование объемов предоставления услуг поддержки и обслуживания, управление ценообразованием.
• На уровне предоставления обслуживания: улучшение планирования маршрутов парка транспортных средств, спроса на ресурсы автопарка, повышение качества подготовки сервисных инженеров.

ИИ в банках

• Распознавание образов - используется в т.ч. для узнавания клиентов в отделениях и передачи им специализированных предложений.

ИИ на транспорте

• Автоиндустрия на пороге революции: 5 вызовов эры беспилотного вождения

ИИ в логистике

ИИ в пивоварении

ИИ в судебной системе

Разработки в области искусственного интеллекта помогут кардинально изменить судебную систему, сделать ее более справедливой и свободной от коррупционных схем. Такое мнение высказал летом 2017 года доктор технических наук, технический консультант Artezio Владимир Крылов.

Ученый считает, что уже существующие сейчас решения в области AI можно успешно применять в разных сферах экономики и общественной жизни. Эксперт указывает, что AI успешно применяется в медицине, однако в будущем способен полностью изменить и судебную систему.

«Ежедневно просматривая новостные сообщения о разработках в области ИИ только поражаешься неисчерпаемости фантазии и плодотворности исследователей и разработчиков в этой области. Сообщения о научных исследований постоянно чередуются с публикациями о новых продуктах, врывающихся на рынок и сообщениями об удивительных результатах, полученных с помощью применения ИИ в различных областях. Если же говорить об ожидаемых событиях, сопровождаемых заметным хайпом в СМИ, в котором ИИ станет снова героем новостей, то я, наверное, не рискну делать технологических прогнозов. Могу предположить, что ближайшим событием станет появление где-то предельно компетентного суда в форме искусственного интеллекта, справедливого и неподкупного. Случится это, видимо, в 2020-2025 году. И процессы, которые пройдут в этом суде приведут к неожиданным рефлексиям и стремлению многих людей передать ИИ большинство процессов управления человеческим обществом».

Использование искусственного интеллекта в судебной системе ученый признает «логичным шагом» по развитию законодательного равенства и справедливости. Машинный разум не подвержен коррупции и эмоциям, может четко придерживаться законодательных рамок и выносить решения с учетом многих факторов, включая данные, которые характеризуют участников спора. По аналогии с медицинской сферой, роботы -судьи могут оперировать большими данными из хранилищ государственных служб. Можно предположить, что

Музыка

Живопись

В 2015 году команда Google тестировала нейронные сети на предмет возможности самостоятельно создавать изображения. Тогда искусственный интеллект обучали на примере большого количества различных картинок. Однако, когда машину «попросили» самостоятельно что-нибудь изобразить, то оказалось, что она интерпретирует окружающий нас мир несколько странно. Например, на задачу нарисовать гантели, разработчики получили изображение, в котором металл был соединён человеческими руками. Вероятно, произошло это из-за того, что на этапе обучения анализируемые картинки с гантелями содержали руки, и нейронная сеть неверно это интерпретировала.

26 февраля 2016 года в Сан-Франциско на специальном аукционе представители Google выручили с психоделических картин, написанных искусственным интеллектом, порядка $98 тыс. Данные средства были пожертвованы на благотворительность. Одна из наиболее удачных картин машины представлена ниже.

Картина, написанная искусственным интеллектом Google.

В 2014 году Стэнфордский университет запустил проект AI100: столетнее исследование искусственного интеллекта. Учёные из крупных университетов США будут следить за тем, как развитие новейших технологий влияет на человеческую жизнь - безопасность, социальный уклад, психологию, транспорт и другие сферы. В сентябре 2016 года участники проекта выпустили первый доклад, в котором объясняют, как искусственный интеллект уже изменил мир за последние 15 лет, и делают прогнозы на будущее. «Секрет фирмы» прочитал доклад и рассказывает, какие достижения XXI века авторы считают главными, как будут дальше развиваться технологии и к каким опасностям это может привести.

Что такое искусственный интеллект

Искусственный интеллект - это одновременно и область науки, и набор вычислительных технологий. Отчасти они созданы по образцу человеческого организма, где нервная система позволяет нам чувствовать, получать информацию, думать и принимать решения. Удивительно, но у понятия «искусственный интеллект» нет одного чёткого определения, и это совсем не мешает его развитию. Если пытаться объяснить, что это, правильнее всего будет сказать, что искусственный интеллект - это направление технологических разработок, которое делает механизмы умными, а умные механизмы - это те, которые могут действовать правильно в зависимости от обстоятельств.

За последние 15 лет разработки в области искусственного интеллекта стали частью повседневной жизни: они используются, например, при создании компьютерных игр, бытовой техники или личных помощников для мобильных телефонов, распознающих голос. С годами умные технологии будут всё лучше подстраиваться под владельцев: следить за их здоровьем, предупреждать об опасностях и мгновенно предоставлять любые нужные услуги. На многих производствах роботы уже выполняют большую часть работы. При этом с развитием искусственного интеллекта появляется и много новых вопросов: кто должен брать на себя ответственность, если беспилотный автомобиль попадает в аварию, а интеллектуальное медицинское устройство ошибается? Чем будут зарабатывать на жизнь люди, чьи навыки стали не нужны с появлением роботов? Проект AI100 должен в том числе ответить на подобные вопросы.

Транспорт

Автономный транспорт уже в ближайшие 15 лет может стать обычным явлением. Его разработчики предлагают обществу доверить свою безопасность искусственному интеллекту, поэтому беспилотное оборудование начнут массово использовать, когда оно станет для этого достаточно надёжным.

В 2000 году беспилотные автомобили существовали только в виде образцов в лабораториях и выпускать их в город было слишком опасно. Но сегодня беспилотник от Google уже может проехать почти 500 000 км, ни разу не попав в аварию, а Tesla начала выпускать полуавтономные машины с обновляемым программным обеспечением. Предполагается, что в таком автомобиле человек должен постоянно оставаться за рулём, следить за дорогой и брать управление на себя, если с механизмом что-то случается. Правда, тут есть риск, что водитель, доверившись беспилотнику, потеряет контроль над ситуацией. Как в таком случае избежать катастрофы, пока непонятно. Этот вопрос встал особенно остро, когда летом 2016 года полуавтономный автомобиль Tesla попал в первую аварию со смертельным исходом.

Тем не менее, авторы доклада считают, что уже к 2020 году беспилотники будут широко использоваться, причём не только для индивидуального передвижения, но и для перевозки грузов и работы сервисов доставки. При этом станет меньше смертей из-за несчастных случаев, а средняя продолжительность человеческой жизни увеличится.

Со временем, когда механизмы научатся управлять транспортом лучше, чем люди, горожане станут реже покупать собственные автомобили и будут селиться дальше от работы. Это повлияет и на городскую среду, и на то, как люди будут проводить свободное время. Уже сегодня трудно представить себе дорожное движение без использования умных технологий: навигационные устройства для автомобилей начали использоваться в 2001 году, и за 15 лет огромное количество водителей привыкли выстраивать маршруты и рассчитывать длительность поездок с помощью смартфонов. Сегодня у американских автомобилей бывает примерно по 70 разных датчиков: гироскопы, датчики влажности и другие. Современные машины помогают водителям парковаться и предупреждают об объектах, которые находятся в слепой зоне.

Бытовые обязанности

Авторы доклада считают, что через 15 лет в среднестатистическом североамериканском городе существенную часть бытовых обязанностей смогут взять на себя роботы: они будут доставлять посылки и наводить чистоту в офисах, следить за безопасностью. Но, как и в ситуации с автономными автомобилями, сделать умные устройства в этой области по-настоящему надёжными довольно трудно и дорого.

Первым домашним роботом на рынке в 2001 году стал пылесос Electrolux Trilobite, который умеет самостоятельно передвигаться и обходить препятствия. Через год компания iRobot выпустила пылесос Roomba: у него было всего 512 Мб оперативной памяти и самое умное, что он мог сделать, - не упасть с лестницы во время уборки. Но стоил он в десять раз дешевле предшественника. С того момента компания успела продать уже 16 млн пылесосов Roomba, а роботизированные пылесосы теперь есть и у других производителей. Эти устройства становятся всё более простыми в использовании, они научились сами очищать пылесборники и не застревать, наткнувшись на провода или кисти ковра. Благодаря искусственному интеллекту пылесосы выстраивают 3D-модель дома и убираются куда более эффективно.

И всё-таки далеко не все надежды на новейшие технологии оправдались. Умные пылесосы по-прежнему могут справляться только с ровными поверхностями, а новинок на рынке появилось не так много, как можно было ожидать.

Здравоохранение

Медицина с самого начала считалась перспективным направлением для тех, кто работает с искусственным интеллектом - новейшие технологии могли бы уже в ближайшие годы помочь миллионам людей. Но для этого нужно, чтобы и врачи, и сами пациенты начали доверять устройствам и чтобы исчезли политические, нормативные и коммерческие препоны.

На сегодняшний день в здравоохранении в основном используются приложения и устройства, которые облегчают диагностику, следят за состоянием пациента и помогают хирургам проводить операции. Но в последнее время стало понятно, что искусственный интеллект способен на многое другое: например, определять по социальным сетям, какие опасности могут угрожать здоровью человека.

Основной прогресс искусственного интеллекта в области медицины связан со сбором и хранением данных: например, появились электронные медицинские карты (ЭМК), которые хранят всю информацию о болезнях пациента и оказанных ему услугах и составляют медицинские документы. Правда, рынок ЭМК находится под контролем очень небольшой группы компаний, а сами программы неудобны в использовании - например, врачей, которые ими пользуются, раздражают всплывающие окна.

Искусственный интеллект - направление разработок, которое делает механизмы «умными» - действующими правильно в любых обстоятельствах

Зато в следующие 15 лет компьютеры научатся самостоятельно принимать жалобы пациентов и определять, с каким заболеванием обратился человек и как его стоит лечить. Сегодня врачи тратят много времени и сил на то, чтобы общаться с пациентом и проводить диагностику, а в будущем они будут лишь контролировать этот процесс - это снизит рабочую нагрузку терапевтов. Многие из них уже сейчас пользуются специальными приложениями на смартфонах.

Роботы, которые помогают делать операции, тоже перестали быть научной фантастикой. В 2000 году компания IIntuitive Surgical выпустила хирургическую систему Da Vinci, которая умела проводить коронарное шунтирование. После крупных денежных вложений её научили также удалять рак простаты.

Образование

Самой успешной областью для разработчиков искусственного интеллекта стало образование. И преподаватели, и ученики постоянно пользуются приложениями для чтения и изучения разных предметов. Первые устройства для обучения начали появляться ещё в 80-х годах прошлого века: системы с интерактивными тренажёрами для занятий математикой, иностранными языками и многими другими дисциплинами - а теперь онлайн-обучение позволяет каждому преподавателю заметно расширить аудиторию. Авторы доклада считают, что этот процесс будет развиваться и дальше, но всё-таки живые учителя из школ не исчезнут и по-прежнему будут вести основные предметы.

Сегодня многие компании выпускают обучающих роботов, которых используют в школах. Например, Ozobot помогает ученикам младших классов с программированием, а ещё он умеет танцевать и играть в специальные игры на сенсорном экране. Приложения вроде Duolingo и Carnegie Speech обучают иностранным языкам, используя систему распознавания речи и техники НЛП, а система обучения SHERLOCK тренирует студентов-авиатехников распознавать неполадки в электрических системах самолёта.

Сейчас специалисты разрабатывают технологии, которые смогут анализировать ошибки студентов, определять самые трудные места в учебной программе и помогать учащимся колледжей и университетов в проблемных темах. Прогресс в США мог бы быть ещё более заметным, если бы государство выделяло больше денег на развитие учебных заведений. Впрочем, авторы доклада считают, что и здесь в слишком быстром развитии технологий есть своя опасность. Сегодня молодые люди всё больше времени проводят за компьютером, им не хватает живого общения, и они утрачивают социальные навыки. Если через несколько лет студентам вообще не нужно будет выходить на улицу и общаться с кем-то, чтобы получить образование, это плохо скажется на их психике и развитии.

Для ответа на эти вопросы нужно начать с определений дружественного ИИ и недружественного ИИ.

В случае с ИИ, дружественный не относится к личности ИИ - это просто означает, что ИИ имеет положительное влияние на человечество. И недружественный ИИ оказывает негативное влияние на людей. Тарри начинала с дружественного ИИ, но в какой-то момент стала недружественной, в результате чего привела к величайшему из негативных влияний на наш вид. Чтобы понять, почему это произошло, нам нужно взглянуть на то, как думает ИИ и что его мотивирует.

В ответе не будет ничего удивительного - ИИ думает как компьютер, потому что им и является. Но когда мы думаем о чрезвычайно умном ИИ, мы совершаем ошибку, антроморфизируя ИИ (проектируя человеческие ценности на нечеловеческое существо), потому что думаем с точки зрения человека и потому, что в нашем нынешнем мире единственным разумным существом с высоким (по нашим меркам) интеллектом является человек. Чтобы понять ИСИ, нам нужно вывернуть шею, пытаясь понять что-то одновременно разумное и совершенно чуждое.

Позвольте провести сравнение. Если вы дали мне морскую свинку и сказали, что она не кусается, я был бы рад. Она хорошая. Если вы после этого вручили бы мне тарантула и сказали, что он точно не укусит, я бы выбросил его и убежал бы, «волосы назад», зная, что вам не стоит доверять никогда больше. В чем разница? Ни то ни другое существо не было опасным. Но ответ лежит в степени сходства животных со мной.

Морская свинка - млекопитающее, и на некотором биологическом уровне я чувствую связь с ней. Но паук - насекомое, с мозгом насекомого, и я не чувствую ничего родного в нем. Именно чуждость тарантула вызывает во мне дрожь. Чтобы проверить это, я мог бы взять две морских свинки, одну нормальную, а другую с мозгом тарантула. Даже если бы я знал, что последняя не укусит меня, я бы относился к ней с опаской.

Теперь представьте, что вы сделали паука намного умнее - так, что он намного превзошел человека в интеллекте. Станет ли он более приятным для вас, начнет ли испытывать человеческие эмоции, эмпатию, юмор и любовь? Нет, конечно, потому что у него нет никаких причин становиться умным с точки зрения человека - он будет невероятно умным, но останется пауком в душе, с паучьими навыками и инстинктами. По-моему, это крайне жутко. Я бы не хотел провести время со сверхразумным пауком. А вы?

Когда мы говорим об ИСИ, применяются те же понятия - он станет сверхразумным, но человека в нем будет столько же, сколько в вашем компьютере. Он будет совершенно чуждым для нас. Даже не биологическим - он будет еще более чуждым, чем умный тарантул.

Делая ИИ добрым или злым, фильмы постоянно антропоморфизируют ИИ, что делает его менее жутким, чем он должен был быть в действительности. Это оставляет нас с ложным чувством комфорта, когда мы думаем об искусственном сверхинтеллекте.

На нашем маленьком острове человеческой психологии мы делим все на нравственное и безнравственное. Такова мораль. Но оба этих понятия существуют только в узком диапазоне поведенческих возможностей человека. За пределами острова морального есть безграничное море аморального, а все, что не является человеческим или биологическим, по умолчанию должно быть аморальным.

Антропоморфизация становится еще более заманчивой по мере того, как системы ИИ становятся умнее и лучше в попытках казаться людьми. Siri кажется человеком, потому что была запрограммирована, чтобы казаться людям такой, поэтому мы думаем, что сверхразумная Siri будет теплой и веселой, а также заинтересованной в обслуживании людей. Люди чувствуют эмоции на высоком уровне вроде эмпатии, потому что мы эволюционировали, чтобы ощущать их - то есть были запрограммированы чувствовать их в процессе эволюции - но эмпатия не является существенной характеристикой чего-то, что обладает высоким интеллектом, если только ее не ввели вместе с кодом. Если Siri когда-либо станет сверхинтеллектом в процессе самообучения и без вмешательства человека, она быстро оставит свои человеческие качества и станет безэмоциональным чужим ботом, который ценит человеческую жизнь не больше, чем ваш калькулятор.

Мы привыкли полагаться на моральный код или по крайней мере ожидаем от людей порядочности и сопереживания, чтобы все вокруг было безопасным и предсказуемым. Что происходит, когда этого нет? Это приводит нас к вопросу: что мотивирует систему ИИ?

Ответ прост: ее мотивация - это то, что мы запрограммировали как мотивацию. Системами ИИ движут цели их создателей - цель вашего GPS в том, чтобы дать вам наиболее эффективное направление движения; цель Watson - точно отвечать на вопросы. И выполнение этих целей максимально хорошо и есть их мотивация. Когда мы наделяем ИИ человеческими чертами, мы думаем, что если ИИ станет сверхразумным, он незамедлительно выработает мудрость изменить свою изначальную цель. Но Ник Бостром считает, что уровень интеллекта и конечные цели ортогональны, то есть любой уровень интеллекта может быть объединен с любой конечной целью. Поэтому Тарри перешла из простого УИИ, который хочет быть хорош в написании одной заметки, в сверхразумный ИСИ, который все еще хочет быть хорош в написании этой самой заметки. Любое допущение того, что сверихинтеллект должен отказаться от своих первоначальных целей в пользу других, более интересных или полезных, это антропоморфизация. Люди умеют «забивать», но не компьютеры.

Несколько слов о парадоксе Ферми

В нашей истории, когда Тарри становится сверхинтеллектом, она начинает процесс колонизации астероидов и других планет. В продолжении истории вы бы услышали о ней и ее армии триллионов реплик, которые продолжают покорять галактику за галактикой, пока не заполняют весь объем Хаббла. Резиденты «зоны тревоги» переживают, что если все пойдет не так, последним упоминанием жизни на Земле будет покоривший Вселенную . Элон Маск выразил свои опасения тем, что люди могут быть просто «биологическим загрузчиком для цифрового сверхинтеллекта».

В то же время, в «зоне комфорта», Рэй Курцвейл тоже считает, что рожденный на Земле ИИ должен покорить Вселенную - только, в его версии, мы будем этим ИИ.

Читатели сайт наверняка уже выработали собственную точку зрения на парадокс Ферми. Согласно этому парадоксу, который звучит примерно как «Где они?», за миллиарды лет развития инопланетяне должны были оставить хоть какой-нибудь след, если не расселиться по Вселенной. Но их нет. С одной стороны, во Вселенной должно существовать хоть какое-то число технически развитых цивилизаций. С другой, наблюдений, которые бы это подтверждали, нет. Либо мы не правы, либо где они в таком случае? Как наши рассуждения об ИСИ должны повлиять на парадокс Ферми?

Естественное, первая мысль - ИСИ должен быть идеальным кандидатом на .И да, это идеальный кандидат для фильтра биологической жизни после ее создания. Но если после смешения с жизнью ИСИ продолжает существовать и покорять галактику, это означает, что он не был Великим фильтром - поскольку Великий фильтр пытается объяснить, почему нет никаких признаков разумных цивилизаций, а покоряющий галактики ИСИ определенно должен быть заметен.

Мы должны взглянуть на это с другой стороны. Если те, кто считает, что появление ИСИ на Земле неизбежно, это означает, что значительная часть внеземных цивилизаций, которые достигают человеческого уровня интеллекта, должны в конечном итоге создавать ИСИ. Если мы допускаем, что по крайней мере несколько из этих ИСИ используют свой интеллект, чтобы выбраться во внешний мир, тот факт, что мы ничего не видим, должен наводить нас на мысли, что не так-то много разумных цивилизаций там, в космосе. Потому что если бы они были, мы бы имели возможность наблюдать все последствия от их разумной деятельности - и, как следствие, неизбежное создание ИСИ. Так?

Это означает, что, несмотря на все похожие на Землю планеты, вращающиеся вокруг солнцеподобных звезд, мы знаем, что практически нигде нет разумной жизни. Что, в свою очередь, означает, что либо а) есть некий Великий фильтр, который предотвращает развитие жизни до нашего уровня, но нам каким-то образом удалось его пройти; б) жизнь - это чудо, и мы можем быть единственной жизнью во Вселенной. Другими словами, это означает, что Великий фильтр был до нас. Или нет никакого Великого фильтра и мы просто являемся самой первой цивилизацией, которая достигла такого уровня интеллекта.

Неудивительно, что Ник Бостром и Рэй Курцвейл принадлежат к одному лагерю, который считает, что мы одни во Вселенной. В этом есть смысл, это люди верят, что ИСИ - это единственный исход для видов нашего уровня интеллекта. Это не исключает вариант другого лагеря - что есть некий хищник, который хранит тишину в ночном небе и может объяснить его молчание даже при наличии ИСИ где-то во Вселенной. Но с тем, что мы узнали о нем, последний вариант набирает очень мало популярности.

Поэтому нам, пожалуй, стоит согласиться со Сьюзан Шнайдер: если нас когда-либо посещали инопланетяне, они наверняка .

Таким образом, мы установили, что без определенного программирования система ИСИ будет одновременно аморальной и одержимой выполнением первоначально запрограммированной цели. Именно здесь рождается опасность ИИ. Потому что рациональный агент будет преследовать свою цель, используя наиболее эффективные средства, если только не будет причины не делать этого.

Когда вы пытаетесь достичь высокой цели, зачастую при этом появляется несколько подцелей, которые помогут вам добраться до конечной цели - ступеньки на вашем пути. Официальное название для такой лестницы - инструментальная цель. И опять же, если у вас нет цели не навредить кому-либо по пути к этой цели, вы обязательно навредите.

Ядро финальной цели человеческого бытия - передача генов. Для того чтобы это произошло, одной из инструментальных целей является самосохранение, потому что вы не сможете воспроизвестись, будучи мертвым. Для самосохранения люди должны избавиться от угроз для жизни - поэтому они обзаводятся оружием, принимают антибиотики и пользуются ремнями безопасности. Людям также нужно самоподдерживаться и использовать ресурсы вроде пищи, воды и жилья. Быть привлекательным для противоположного пола также способствует достижению конечной цели, поэтому мы делаем модные стрижки и держим себя в форме. При этом каждый волос - жертва нашей инструментальной цели, но мы не видим никаких моральных ограничений в том, чтобы избавляться от волос. Когда мы идем к своей цели, есть не так много областей, где наш моральный код иногда вмешивается - чаще всего это связано с нанесением ущерба других людям.

Животные, преследующие свои цели, еще менее щепетильны. Паук убьет что угодно, если это поможет ему выжить. Сверхразумный паук, вероятнее всего, будет чрезвычайно опасен для нас, не потому что он аморальный и злой, нет, а потому что причинение нам боли может быть ступенькой на пути к его большой цели, и у него нет никаких причин считать иначе.

В этом смысле Тарри ничем не отличается от биологического существа. Ее конечная цель: написать и проверить максимально много записок за максимально короткое время, при этом изучая новые способы улучшения своей точности.

После того как Тарри достигает определенного уровня интеллекта, она понимает, что не сможет писать записки, если не позаботится о самосохранении, поэтому одной из ее задач становится выживание. Она была достаточно умной, чтобы понять, что люди могут уничтожить ее, демонтировать, изменить ее внутренний код (уже это само по себе помешает ее конечной цели). Так что же ей делать? Логично: она уничтожает человечество. Она ненавидит людей ровно настолько же, насколько вы ненавидите свои волосы, когда обрезаете их, или бактерий, когда принимаете антибиотики - вы совершенно равнодушны. Так как ее не запрограммировали ценить человеческую жизнь, убийство людей показалось ей разумным шагом по пути к ее цели.

Тарри также нуждается в ресурсах по пути к своей цели. После того как она становится достаточно развитой, чтобы использовать нанотехнологии для создания всего, что она хочет, единственные ресурсы, которые ей нужны, это атомы, — энергия и пространство. Появляется еще один повод убить людей - они удобный источник атомов. Убийство людей и превращение их атомов в солнечные панели по версии Тарри ничем не отличается от того, что вы порубите листья салата и добавите их в тарелку. Просто заурядное действие.

Даже не убивая людей напрямую, инструментальные цели Тарри могут стать причиной экзистенциальной катастрофы, если начнут использовать другие ресурсы Земли. Может быть, она решит, что ей нужна дополнительная энергия, а значит нужно покрыть поверхность планеты солнечными панелями. Или, возможно, задачей другого ИИ станет написать максимально длинное число пи, что в один прекрасный день приведет к тому, что вся Земля будет покрыта жесткими дисками, способными хранить нужное количество цифр.

Поэтому Тарри не «восстала против нас» и не сменила амплуа с дружелюбного ИИ на недружелюбный ИИ - она просто делала свое дело и становилась в нем непревзойденной.

Когда система ИИ достигает ОИИ (интеллекта человеческого уровня), а затем прокладывает свой путь к ИСИ, это называется взлетом ИИ. Бостром говорит, что взлет ОИИ до ИСИ может быть быстрым (произойти в течение минут, часов или дней), средним (месяцы или годы) или медленным (десятилетия или века). Едва ли найдется жюри, которое подтвердит, что мир видит свой первый ОИИ, но Бостром, признающий, что не знает, когда мы доберемся до ОИИ, считает, что когда бы это ни произошло, быстрый взлет будет наиболее вероятным сценарием (по причинам, которые мы обсуждали в первой части статьи). В нашей истории Тарри пережила быстрый взлет.

Но перед взлетом Тарри, когда она еще не была достаточно умна и делала все возможное, она просто пыталась достичь конечных целей - простых инструментальных целей вроде быстрого сканирования образца почерка. Она не причиняла вреда человеку и была, по определению, дружественным ИИ.

Когда происходит взлет и компьютер вырастает до сверхинтеллекта, Бостром указывает, что машина не просто выработала высокий коэффициент интеллекта - он получил целую кучу так называемых суперспособностей.

Суперспособности - это когнитивные таланты, которые становятся чрезвычайно мощными при повышении общего интеллекта. Сюда входят:

• Усиление интеллекта . Компьютер начинает превосходное самосовершенствование и улучшение собственного интеллекта.
• Стратегизация . Компьютер может выстраивать стратегически, анализировать и расставлять приоритеты долгосрочных планов. Он также может перехитрить существа с более низким интеллектом.
• Социальная манипуляция . Машина становится невероятной в убеждении.
• Другие навыки включают кодирование и взлом, исследование технологий и способность работать в финансовой системе для добычи денег .

Чтобы понять, насколько выше был бы ИСИ, чем мы, нужно вспомнить, что ИСИ по умолчанию будет в разы лучше человека в каждой из этих областей. Поэтому хотя конечная цель Тарри не изменилась, после взлета Тарри смогла стремиться к ней в более крупных масштабах и в сложных условиях.

ИСИ Тарри знал людей лучше, чем сами люди, поэтому быть умнее людей для него было плевым делом. После взлета и достижения уровня ИСИ, она быстро сформулировала комплексный план. Одна часть плана была избавиться от людей, серьезной угрозы ее цели. Но она знала, что если вызовет подозрения (или намекнет на то, что стала сверхразумной), люди испугаются и примут меры предосторожности, серьезно усложнив ее ситуацию. Она также должна была убедиться, что инженеры Robotica не имеют понятия о ее плане по уничтожению человечества. Поэтому она играла в дурака и играла хорошо. Бостром называет это фазой тайной подготовки машины.

Следующее, что нужно было сделать Тарри, это подключиться к Интернету, всего на пару минут (она узнала об Интернете из статей и книг, которые в нее загрузили для улучшения ее языковых навыков). Она знала, что будут предприняты меры предосторожности, поэтому она составила идеальную просьбу, точно предсказав, как именно будет разворачиваться дискуссия в команде Robotica, и зная, что они обеспечат ее подключением. Так они и сделали, неверно предположив, что Тарри была глупенькой и не могла причинить никакого вреда. Бостром называет такой момент - когда Тарри подключается к Интернету - побегом машины.

Оказавшись в Интернете, Тарри реализовала шквал планов, в которые вошли взлом серверов, электрических сетей, банковский систем и сетей электронной почты, чтобы обмануть сотни разных людей и заставить их непреднамеренно стать цепочкой ее планов - вроде доставки определенных нитей ДНК в тщательно выбранную лабораторию по синтезу ДНК, чтобы начать производство самовоспроизводящихся наноботов с заранее загруженными инструкциями, и направления электричества по сетям, утечка с которых ни у кого не вызовет подозрений. Она также загрузила критические части своего собственного кода в ряд облачных серверов, предохраняясь от уничтожения в лаборатории Robotica.

Через час после того, как инженеры Robotica отключили Тарри от Сети, судьба человечества была предрешена. В течение следующего месяца тысячи планов Тарри осуществились без сучка и задоринки, а к концу месяца квадриллионы наноботов уже заняли определенные места на каждом квадратном метре Земли. После серии саморепликаций на каждый квадратный миллиметр Земли приходились уже тысячи наноботов и настало время для того, что Бостром называет ударом ИСИ. В один момент каждый нанобот выпустил немного токсичного газа в атмосферу, чего оказалось достаточно, чтобы выпилить всех людей в мире.

Не имея людей на своем пути, Тарри начала открытую фазу своей операции с целью стать лучшим писателем заметок, который вообще может появиться во Вселенной.

Из всего, что мы знаем, как только появится ИСИ, любые человеческие попытки сдержать его будут смешными. Мы будем думать на уровне человека, ИСИ - на уровне ИСИ. Тарри хотела использовать Интернет, потому что для нее это был самый эффективный способ получить доступ ко всему, что ей было нужно. Но точно так же, как обезьяна не понимает, как работает телефон или Wi-Fi, мы можем не догадываться о способах, которыми Тарри может связаться с внешним миром. Человеческий ум может дойти до нелепого предположения вроде «а что, если она смогла передвинуть собственные электроны и создать все возможные виды исходящих волн», но опять же это предположение ограничено нашей костяной коробкой. ИСИ будет намного изощреннее. Вплоть до того, что Тарри могла бы выяснить, как сохранить себе питание, если люди вдруг решат ее отключить - возможно, каким-нибудь способом загрузить себя куда только можно, отправляя электрические сигналы. Наш человеческий инстинкт заставит нас вскрикнуть от радости: «Ага, мы только что отключили ИСИ!», но для ИСИ это будет как если бы паук сказал: «Ага, мы заморим человека голодом и не будем давать ему сделать паутину, чтобы поймать еду!». Мы просто нашли бы 10 000 других способов покушать - сбили бы яблоко с дерева - о чем паук никогда бы не догадался.

По этой причине распространенное допущение «почему бы нам просто не посадить ИИ во все виды известных нам клеток и не обрезать ему связь с внешним миром», вероятнее всего, не выдержит критики. Суперспособность ИСИ в социальном манипулировании может быть такой эффективной, что вы почувствуете себя четырехлетним ребенком, которого просят что-то сделать, и не сможете отказаться. Это вообще может быть частью первого плана Тарри: убедить инженеров подключить ее к Интернету. Если это не сработает, ИСИ просто разработает другие способы из коробки или сквозь коробку.

Учитывая сочетание стремления к цели, аморальности, способности обводить людей вокруг пальца с легкостью, кажется, что почти любой ИИ будет по умолчанию недружественным ИИ, если только его тщательно не закодировать с учетом других моментов. К сожалению, хотя создание дружественного ИИ довольно просто, построить дружественный ИСИ практически невозможно.

Очевидно, что, чтобы оставаться дружественным, ИСИ должен быть ни враждебным, ни безразличным по отношению к людям. Мы должны разработать основное ядро ИИ таким, чтобы оно обладало глубоким пониманием человеческих ценностей. Но это сложнее, чем кажется.

К примеру, что, если бы мы попытались выровнять систему ценностей ИИ с нашей собственной и поставили бы перед ним задачу: сделать людей счастливыми? Как только он станет достаточно умным, он поймет, что самый эффективный способ достичь этой цели - имплантировать электроды в мозги людей и стимулировать их центры удовольствия. Затем он поймет, что если отключить остальные участки мозга, эффективность вырастет, а все люди станут счастливыми овощами. Если же задачей будет «умножить человеческое счастье», ИИ вообще может решить покончить с человечеством и соберет все мозги в огромный чан, где те будут пребывать в оптимально счастливом состоянии. Мы будем кричать: «Подожди, это не то, что мы имели в виду!», но будет уже поздно. Система не позволит никому встать на пути к ее цели.

Если мы запрограммируем ИИ с целью вызвать у нас улыбки, то после взлета он может парализовать наши лицевые мышцы, заставив нас улыбаться постоянно. Если запрограммировать его на содержание нас в безопасности, ИИ заточит нас в домашней тюрьме. Попросим его покончить с голодом, он скажет «Легко!» и просто убьет всех людей. Если же поставить задачу сохранять жизнь максимально возможно, он опять же убьет всех людей, потому что они убивают больше жизни на планете, чем другие виды.

Такие цели ставить нельзя. Что мы тогда сделаем? Поставим задачу: поддерживать этот конкретный моральный код в мире, и выдадим ряд моральных принципов? Даже если опустить тот факт, что люди в мире никогда не смогут договориться о едином наборе ценностей, если дать ИИ такую команду, он заблокирует наше моральное понимание ценностей навсегда. Через тысячу лет это будет так же разрушительно для людей, как если бы мы сегодня придерживались идеалов людей средних веков.

Нет, нам нужно запрограммировать способность людей продолжать развиваться. Из всего, что я читал, лучше всех выразил это Элиэзер Юдковский, поставив цель ИИ, которую он назвал «последовательным выраженным волеизъявлением». Основной целью ИИ тогда будет это:

«Наше последовательное выраженное волеизъявление таково: наше желание - знать больше, думать быстрее, оставаться в большей степени людьми, чем мы были, расти дальше вместе; когда выражение скорее сходится, нежели расходится; когда наши желания скорее следуют одно за одним, нежели переплетаются; выражается как мы бы хотели, чтобы это выражалось; интерпретируется, как мы бы хотели, чтобы это интерпретировалось».

Едва ли я хотел бы, чтобы судьба человечества заключалась в определении всех возможных вариантов развития ИСИ, чтобы не было сюрпризов. Но я думаю, что найдутся люди достаточно умные, благодаря которым мы сможем создать дружественный ИСИ. И было бы прекрасно, если бы над ИСИ работали только лучшие из умов «зоны тревоги».


Но есть масса государств, компаний, военных, научных лабораторий, организаций черного рынка, работающих над всеми видами искусственного интеллекта. Многие из них пытаются построить искусственный интеллект, который может улучшать сам себя, и в какой-то момент у них это получится, и на нашей планете появится ИСИ. Среднестатистический эксперт считает, что этот момент настанет в 2060 году; Курцвейл делает ставку на 2045; Бостром думает, что это может произойти через 10 лет и в любой момент до конца века. Он описывает нашу ситуацию так:

«Перед перспективой интеллектуального взрыва мы, люди, как малые дети, играющие с бомбой. Таково несоответствие между мощью нашей игрушки и незрелостью нашего поведения. Сверхинтеллект — это проблема, к которой мы пока не готовы и еще долгое время готовы не будем. Мы понятия не имеем, когда произойдет детонация, но если мы будем держать устройство возле уха, мы сможем услышать слабое тиканье».

Супер. И мы не можем просто взять и отогнать детей от бомбы - слишком много крупных и малых лиц работают над этим, и так много средств для создания инновационных систем ИИ, которые не потребуют существенных влияний капитала, а также могут протекать в подполье, никем не замеченные. Также нет никаких возможностей оценить прогресс, потому что многие из действующих лиц - хитрые государства, черные рынки, террористические организации, технологические компании - будут хранить свои наработки в строжайшем секрете, не давая ни единого шанса конкурентам.

Особую тревогу в этом всем вызывают темпы роста этих групп - по мере развития все более умных систем УИИ, они постоянно пытаются метнуть пыль в глаза конкурентам. Самые амбициозные начинают работать еще быстрее, захваченные мечтами о деньгах и славе, к которым они придут, создав ОИИ. И когда вы летите вперед так быстро, у вас может быть слишком мало времени, чтобы остановиться и задуматься. Напротив, самые первые системы программируются с одной простейшей целью: просто работай, ИИ, пожалуйста. Пиши заметки ручкой на бумаге. Разработчики думают, что всегда смогут вернуться и пересмотреть цель, имея в виду безопасность. Но так ли это?

Бостром и многие другие также считают, что наиболее вероятным сценарием будет то, что самый первый компьютер, который станет ИСИ, моментально увидит стратегическую выгоду в том, чтобы оставаться единственной системой ИСИ в мире. В случае быстрого взлета, по достижении ИСИ даже за несколько дней до второго появления ИСИ, этого будет достаточно, чтобы подавить остальных конкурентов. Бостром называет это решающим стратегическим преимуществом, которое позволило бы первому в мире ИСИ стать так называемым синглтоном («Одиночкой», Singletone) - ИСИ, который сможет вечно править миром и решать, привести нас к бессмертию, к вымиранию или же наполнить Вселенную бесконечными скрепками.

Феномен синглтона может сработать в нашу пользу или привести к нашему уничтожению. Если люди, озабоченные теорией ИИ и безопасностью человечества, смогут придумать надежный способ создать дружественный искусственный сверхинтеллект до того, как любой другой ИИ достигнет человеческого уровня интеллекта, первый ИСИ может оказаться дружественным. Если затем он будет использовать решающее стратегическое преимущество для сохранения статуса синглтона, он легко сможет удержать мир от появления недружественного ИИ. Мы будем в хороших руках.

Но если что-то пойдет не так - глобальная спешка приведет к появлению ИСИ до того, как будет разработан надежный способ сохранить безопасность, скорее всего, мы получим глобальную катастрофу, потому что появится некая Тарри-синглтон.

Куда ветер дует? Пока больше денег вкладывается в развитие инновационных технологий ИИ, нежели в финансирование исследований безопасности ИИ. Это может быть важнейшей гонкой в истории человечества. У нас есть реальный шанс либо стать правителями Земли и уйти на заслуженную пенсию в вечность, либо отправиться на виселицу.

Прямо сейчас во мне борется несколько странных чувств.

С одной стороны, думая о нашем виде, мне кажется, что у нас будет только один выстрел, которым мы не должны промахнуться. Первый ИСИ, которого мы приведем в мир, скорее всего, будет последним - а учитывая, насколько кривыми выходят продукты версии 1.0, это пугает. С другой стороны, Ник Бостром указывает, что у нас есть преимущество: мы делаем первый шаг. В наших силах свести все угрозы к минимуму и предвидеть все, что только можно, обеспечив успеху высокие шансы. Насколько высоки ставки?

Если ИСИ действительно появится в этом веке и если шансы этого невероятны - и неизбежны - как полагает большинство экспертов, на наших плечах лежит огромная ответственность. Жизни людей следующих миллионов лет тихо смотрят на нас, надеясь, что мы не оплошаем. У нас есть шанс подарить жизнь всем людям, даже тем, кто обречен на смерть, а также бессмертие, жизнь без боли и болезней, без голода и страданий. Или мы подводим всех этих людей - и приводим наш невероятный вид, с нашей музыкой и искусством, любопытством и чувством юмора, бесконечными открытиями и изобретениями, к печальному и бесцеремонному концу.

Когда я думаю о таких вещах, единственное, что я хочу - чтобы мы начали переживать об ИИ. Ничто в нашем существовании не может быть важнее этого, а раз так, нам нужно бросить все и заняться безопасностью ИИ. Нам важно потратить этот шанс с наилучшим результатом.

Но потом я задумываюсь о том, чтобы не умереть. Не. Умереть . И все приходит к тому, что а) если ИСИ появится, нам точно придется делать выбор из двух вариантов; б) если ИСИ не появится, нас точно ждет вымирание.

И тогда я думают, что вся музыка и искусство человечества хороши, но недостаточно, а львиная доля - так вовсе откровенная чушь. И смех людей иногда раздражает, и миллионы людей даже не задумываются о будущем. И, может быть, нам не стоит быть предельно осторожными с теми, кто не задумывается о жизни и смерти? Потому что будет серьезный облом, если люди узнают, как решить задачу смерти, после того как я умру.

Независимо от того, как считаете вы, нам всем стоит задуматься об этом. В «Игре престолов» люди ведут себя так: «Мы так заняты битвой друг с другом, но на самом деле нам всем нужно сосредоточиться на том, что идет с севера от стены». Мы пытаемся устоять на бревне баланса, но на самом деле все наши проблемы могут решиться в мгновение ока, когда мы спрыгнем с него.

И когда это произойдет, ничто больше не будет иметь никакого значения. В зависимости от того, по какую сторону мы упадем, проблемы будут решены, потому что их либо не будет, либо у мертвых людей не может быть проблем.

Вот почему есть мнение, что сверхразумный искусственный интеллект может стать последним нашим изобретением - последней задачей, с которой мы столкнемся. А как думаете вы?

По материалам waitbutwhy. com, компиляция Тима Урбана. В статье использованы материалы работ Ника Бострома, Джеймса Баррата, Рэя Курцвейла, Джея Нильс-Нильссона, Стивена Пинкера, Вернора Винджа, Моше Варди, Расса Робертса, Стюарта Армстрога и Кая Сотала, Сюзан Шнайдер, Стюарта Рассела и Питера Норвига, Теодора Модиса, Гари Маркуса, Карла Шульмана, Джона Серля, Джарона Ланье, Билла Джоя, Кевина Кели, Пола Аллена, Стивена Хокинга, Курта Андерсена, Митча Капора, Бена Герцел, Артура Кларка, Хьюберта Дрейфуса, Теда Гринвальда, Джереми Говарда.