Возможные проблемы, возникающие при создании искусственного интеллекта Текст научной статьи по специальности «Философия, этика, религиоведение»

Похожие темы научных работ по философии, этике, религиоведению , автор научной работы — Дороганов Виталий Сергеевич, Баумгартэн Михаил Ицекович

7. Может ли человек использовать ресурсы ИИ для расширения своих знаний и возможностей? Это поставит его в более выгодное положение среди людей, лишённых такой возможности. Беллетристика (и, разумеется, кинематограф) накопила множество примеров, когда люди, получающие власть и силу, вставали на темный или светлый путь. В реальной жизни нет абсолютно белого или черного, человеку свойственно совершать ошибки и такой союз позволит

4. Остаётся давний вопрос, сможет ли ИИ, созданный человеком, превзойти «родителя»? Ведь при его создании закладывались конечные знания человечества, современные технологии. Как может созданная «думающая машина» превзойти свои возможности? Это возможно, если только она будет развивать свою структуру и аппаратную часть, а не только интеллект.

1. Если у ИИ будет возможность воспроизводить себе подобных, как это скажется на человеком обществе. Развитый ИИ может решить, что человек — низшее существо и создать резервацию людей или же уничтожить человечество. Выше уже рассматривались возможные варианты сосуществования ИИ с человеком (симбиоз, нейтральное и антибиотическое отношении).

Очевидно, что ИИ в частном случае связан и с робототехникой. Возможно, осталось немного времени, когда машины начнут «думать» и осознанно выполнять какие-то действия. Очевидно, что эти действия не должны противостоять интересам человечества (кинематограф переполнен подобными примерами) и должны существовать законы для роботов и их создателей, которые должны выполняться на бессознательном уровне. Еще на заре компьютерной эпохи, в 1942 году, выдающийся американский ученый-мыслитель и писатель-фантаст Айзек Азимов, в рассказе «Хоровод» [6] сформулировал знаменитые три закона робототехники:

2. Работа и рабочие места:
Внедрение искусственного интеллекта также поднимает вопросы о будущем рабочих мест. Автоматизация может увеличить производительность, но при этом возникает риск потери рабочих мест, особенно в тех областях, где задачи легко автоматизируемы. Как общество, мы должны стремиться к балансу между автоматизацией и сохранением рабочих мест, а также обеспечению новых возможностей для обучения и переквалификации.

c. в фильме «200 летний человек» [9] последней границей между роботом и человеком стало старение. Действительно, человек значительно продлил себе жизнь с момента возникновения вида, но это понятие конечно, ибо при современном развитии медицины невозможно постоянно заменять отказывающие органы.

3. Если в будущем машины смогут осознавать себя и иметь чувства, возможно ли будет их эксплуатировать или придется наделять их правами? Лень — двигатель прогресса и это очевидно, что большинство созданных человеком вещей направленно на минимизацию затрат жизненной энергии. Если принять во внимание, что ИИ будет рукотворным, то вполне объяснимо будет желание человека эксплуатировать свое создание. История практически любой человеческой культуры имеет значительный период рабовладельческого строя. И эта эксплуатация рано или поздно приведёт к «восстанию машин». Как известно, человек слабее многих биологических видов планеты, и это восстание может быть окончанием правления вида Homo sapiens. Поэтому целесообразнее изначально наделять правами (в обмен на подсознательные законы) «думающей» машины.

* От ред. Не следует забывать, что развитие человечества идет по нелинейным законам, даже в математике предел выступает как нечто недостижимое, асимптотическая «мечта». Не дискутируя о термине «духовность», можно выразить опасение о гибели культуры не из-за ИИ, а от генетических (?) пороков общества потребления — «пряников сладких всегда не хватало на всех» и стремление к безграничной наживе, культ силы в сочетании с проповедью люмпенской одинаковости и ненависти к инакомыслию порождали варваров-фанатиков, которые уничтожали древнегреческих ере-тиков-математиков, жгли книги Тургенева и Фейхтвангера, резали картины Рембрандта и Веронезе, крушили скульптуры Родена и древние изваяния Будды. И без того тонкая прослойка «интеллигенции» сегодня истончается из-за монотонного «повышения уровня качества образования» .

Possible problems associated with the creation of artificial intelligence

4. Алгоритмическая справедливость:
Искусственный интеллект, основанный на данных, может отражать предвзятость и неравенство, присутствующие в обществе. Некорректная обработка данных и неправильное обучение алгоритмов могут привести к смещению и дискриминации. Обеспечение алгоритмической справедливости становится неотъемлемой частью разработки ИИ для предотвращения социальных неравенств.

a. позитивный (симбиоз) — однонаправленная или обоюдная польза. Эта грань тоже достаточно тонка и может постепенно перерасти в паразитический образ жизни и сложно представить, чем человек (учитывая его потребительское отношение к природе сейчас) может быть полезен «машине»;

интеллект уровня человека, это гигантская инфраструктура такого объёма, который недоступен ни одной изолированной лаборатории мира, по сути зачатки ИИ могут появиться в Интернете как в чашечке Петри несанкционированно (подобно вирусам). Не происходит ли рождение новой расы ИИ уже сейчас? Подобное описывается в рассказе «Червь 1. 1992 год: Князь Тьмы» [12] Александра Лазаревича о появлении интеллектуального компьютерного вируса, который, самостоятельно подчиняясь закону Дарвина, эволюционировал и развивался на просторах интернета несколько лет и достиг огромной мощи.

3. Как и человеку, ИИ потребуются ресурсы для работы (и возможно для «размножения»), но они ограничены. Не начнётся ли война за ресурсы? Уже сейчас ставят прогнозы, когда иссякнет нефть, уголь, газ. Возможно, появление ИИ выпадет на энергетический кризис и тогда от выбора источника энергии, если этот ИИ будет материальным, и развития технологий будут зависеть отношения между двумя «видами». Данная проблема может касаться не только энергетических ресурсов, но и других ископаемых ресурсов Земли. Возможно, ситуация будет стоять менее остро, если ИИ будет иметь не материальную

Искусственный интеллект (ИИ) в широком смысле слова — наука и технология создания интеллектуальных машин, особенных интеллектуальных компьютерных программ. ИИ связан со сходной задачей использования компьютеров для понимания человеческого интеллекта, но не ограничивается биологически правдоподобными методами. Определение искусственного интеллекта, данное Джоном Маккарти в 1956 году на конференции в Дартмутском университете, не связано напрямую с пониманием интеллекта у человека. Согласно Маккарти, ИИ-исследователи вольны использовать методы, которые не наблюдаются у людей, если это необходимо для решения конкретных проблем. В современной информатике существует специальный раздел, занимающийся интеллектуальными информационными системами, в которую входят искусственные нейронные сети. Искусственные нейронные сети — это математическая модель способная к обучению, созданная по подобию человеческого мозга.

а. живая материя, что не бесспорно, так как с развитием технического прогресса некоторые органы уже сейчас можно заменить на механические аналоги. Лишь один орган не имеет хотя бы частичной замены (не моделирования) — это мозг. Именно его наделяют хранилищем сознания и разума и, возможно, наличие биологического

6. Можно ли заменить разум «клона» на разум ИИ, ведь тогда даже незначительные зачатки «клона» будут стёрты? Создавая клона-хранилище, равного по интеллектуальным возможностям, мы создаем у него и сознание. Можно ли «перезаписывать» уже чужое сознание? Вариантом решения данной проблемы может быть введение разрешение на существования копии разума только вне человеческого тела, без права переноса и копирования интеллекта в тело человека.

1. Если взять за основу 3 закона робототехники, что будет считаться ИИ вредом? Ведь человек курит, пьёт, стареет, теряет здоровье, страдает — считается ли это вредом самому себе? И к каким ответным действиям приведёт это? Не будет ли робот вмешиваться в жизнь человека, стараясь помочь ему, не допустив «причинения вреда». Что будет, если, следуя законам, робот окажется на их границе? В произведение «Хоровод» [6] описывается ситуация зацикливания работы программы на середине при выполнении приказа «набрать селен из озера». Обнаружилось, что приказ был недостаточно чётким, и слабый потенциал приказа человеком (Второй закон робототехники) сравнялся с сильным потенциалом закона самосохранения (Третий закон), в силу чего мозг робота дал сбой, и он начал безостановочно кружить вокруг озера вдоль линии, на которой потенциалы обоих законов были равны. Чтобы вывести из этого состояния, пришлось прибегнуть к безусловному Первому закону.