Содержание статьи
Как создать «хороший» искусственный интеллект
Стадия 2. Принятие
Другим аргументом против жестко закодированных значений в сложных адаптивных системах (таких как будущий «сильный» ИИ) является то, что мы хотим, чтобы ценности эволюционировали. Например, мы не хотели бы жить в соответствии с ценностями прошлых веков, когда мирились с рабством или ограничивали свободу групп людей на основе цвета их кожи или пола. Было бы неразумно ограничивать способность искусственного интеллекта открывать системы ценностей, более совершенные, чем существующие сегодня. Однако для достижения этого нам необходимо убедиться, что мы задаем ИИ правильную траекторию обучения ценностям.
Естественно, начинать следует с самых простых ботов. Для этого вспомните старую-добрую игру «Крестики-нолики» при использовании поля 3х3 и постарайтесь выяснить для себя основные алгоритмы действий: вероятность победы при безошибочных действиях, наиболее удачные места на поле для расположения фигуры, необходимость сводить игру к ничьей и так далее.
Когда спесь немного сбита студенческой литературой, можно приступать к практике. Бросаться на LISP или другие функциональные языки пока не стоит — сначала стоит освоиться с принципами проектирования ИИ. Как для быстрого изучения, так и дальнейшего развития прекрасно подойдёт Python — это язык, чаще всего используемый в научных целях, для него вы найдете множество библиотек, которые облегчат ваш труд.
Мы называем искусственный интеллект (ИИ), который существует сегодня, «слабым ИИ», потому что диапазон задач, который он может выполнять, очень ограничен. По сути, все эвристики ИИ «хранятся» в мозге человека – в головах исследователей и инженеров, которые проектируют искусственный интеллект для выполнения определенных задач с использованием конкретных наборов данных.
В «GoodAI» мы считаем, что сложные человеческие ценности не могут быть просто закодированы раз и навсегда, ИИ должен изучать их постепенно, в ходе управляемого процесса. Это очень похоже на то, как мы, люди, учимся c помощью образовательных программ в среде, сформированной для нас семьей, институтами и обществом в целом. Вместо того чтобы изучать строгие правила в мире, который редко бывает черно-белым, мы учимся понимать основополагающие принципы нашей культуры, после чего мы можем обобщать эти принципы для ранее не встречающихся ситуаций и действовать в соответствии с нашими ценностями — это намного более надежная стратегия.
Теперь же, когда вы уже вполне ясно представляете, как ИИ создавать и чем при этом пользоваться, пора выводить свои знания на новый уровень. Во-первых, для этого потребуется изучение дисциплины, которое носит название «Машинное обучение». Во-вторых, необходимо научиться работать с соответствующими библиотеками выбранного языка программирования. Для рассматриваемого нами Python это Scikit-learn, NLTK, SciPy, PyBrain и Numpy. В-третьих, в развитии никуда не обойтись от функционального программирования. Ну и самое главное, вы теперь сможете читать литературу о ИИ с полным пониманием дела:
Стадия 3. Развитие
На этой неделе вы могли прочитать крайне мотивирующей кейс от ученика GeekBrains Валерия Турова, который изучил профессию «Программист Java», где он рассказал об одной из своих целей, которая привела в профессию — желанию познать принцип работы и научиться создавать самому игровых ботов.
Обучение, подготовка и, в особенности, испытание ИИ могут быть гораздо более утомительным процессом, чем разработка базового алгоритма. Тот, кто будет создателем «сильного» ИИ, напрямую повлияет на то, какие ценности будут заложены в систему в результате. Учитывая трансформирующий потенциал, который может иметь такая технология сильного искусственного интеллекта, эти ценности могут повлиять на будущее человечества. И, учитывая конкурентное преимущество, которое ИИ мог бы дать своим обладателям, эти ценности стали бы ценностями, которые в конечном итоге будут доминировать в нашей вселенной.
Мы пока не можем доверять ИИ принятие решений в важнейших областях — например, искусственный интеллект оказывает помощь медицинскому персоналу, только давая рекомендации, не больше. Тем не менее, исследования продвигаются в сторону «сильного ИИ», и мы стараемся разработать алгоритмы, которые позволят принимать лучшие решения и дополнять, а не просто автоматизировать человеческий интеллект. Это позволило бы нам оптимизировать научные исследования и найти им практическое применение в различных областях.
Чтобы попытаться ответить на этот сложный вопрос, в «GoodAI» мы запустили глобальную программу под названием «Решение проблемы гонки ИИ». ИИ обладает беспрецедентным потенциалом, чтобы изменить существующий баланс сил в мире и может дать бесспорное конкурентное преимущество даже какому-либо новому или слабому игроку. Поэтому, когда дело доходит до разработки революционного «сильного» ИИ, желательно снизить вероятность сценария, в котором победитель получает все, поскольку мы не можем исключать возможность оппортунистического поведения игроков. Мы также должны предусмотреть защиту от небрежности в процессе разработки или от отсутствия надлежащего тестирования безопасности перед тем, как такой искусственный интеллект будет запущен (поспешный запуск может быть вызван давлением со стороны конкурентов).
Нахождение значительного стимула к сотрудничеству и создание надежной модели кооперации между заинтересованными лицами и разработчиками ИИ по всему миру проложили бы путь к «хорошему» искусственному интеллекту. Совместная разработка нового поколения искусственного интеллекта могла бы стать опцией, при котором все участвующие стороны получат преимущества, смягчая сценарий «победитель получает все», а также смогут вести более эффективную работу по вопросам обучения ценностям и безопасности ИИ в целом. Как это будет работать на практике? Или есть ли другой, лучший способ смягчить риски, связанные с глобальной гонкой ИИ? Хотели бы вы помочь разработать структуру, способную максимизировать преимущества искусственного интеллекта для общества? Если это так, я приглашаю вас попытаться найти ответы на эти вопросы вместе, присоединившись к нашей программе.
К слову, если вы всё-таки взялись за язык Python, то создать довольно простого бота можно, обратившись к этому подробному мануалу. Для других языков, таких как C++ или Java, вам также не составит труда найти пошаговые материалы. Почувствовав, что за созданием ИИ нет ничего сверхъестественного, вы сможете смело закрыть браузер и приступить к личным экспериментам.
Как мы можем научить искусственный интеллект правильным ценностям? Во-первых, нам нужно убедиться, что у нас есть эффективный механизм обучения ИИ пониманию нашего мира. Чтобы научить ИИ решать общие задачи, нам сначала нужно создать систему с врожденной способностью учиться постепенно. Т.е. систему, способную «накладывать» новые навыки поверх ранее изученных, эффективно использовать приобретенные знания повторно и обобщать их, распространяя на новые области. Хоть это и несложно для людей, это все еще нерешенная проблема для искусственного интеллекта.
Мы пока не можем доверять ИИ принятие решений в важнейших областях — например, искусственный интеллект оказывает помощь медицинскому персоналу, только давая рекомендации, не больше. Тем не менее, исследования продвигаются в сторону «сильного ИИ», и мы стараемся разработать алгоритмы, которые позволят принимать лучшие решения и дополнять, а не просто автоматизировать человеческий интеллект. Это позволило бы нам оптимизировать научные исследования и найти им практическое применение в различных областях.
