Презентация Градиентные алгоритмы

Инновационно-методическая деятельность библиотек

Под интеллектуальной системой (ИС)
понимается объединенная
информационным процессом
совокупность технических средств и
программного обеспечения, работающую
во взаимосвязи с человеком (коллективом
людей) или автономно, способную на
основе сведений и знаний при наличии
мотивации синтезировать цель,
принимать решение к действию и
находить рациональные способы
достижения цели

3 слайд 1
Первая революция: перцептрон и большие надежды
Идея искусственного интеллекта давно занимала людей. Гефест конструировал себе роботов-андроидов, например гигантского человекоподобного робота Талоса, которого позже отдали охранять Крит. Особо мудрые раввины могли создавать големов, а после доктора Франкенштейна идея искусственного интеллекта прочно обосновалась в литературе. Однако как наука искусственный интеллект совсем молод: за точку отсчёта обычно берут статью Тьюринга Computing Machinery and Intelligence («Вычислительные машины и разум»), опубликованную в 1950 году в журнале Mind.
Оригинальная статья Тьюринга.

Если
квалификация юриста достаточна лишь
для составления искового заявления из
готовых блоков, то, пожалуй, да: такого
юриста можно без проблем заменить
компьютерной программой.
Если же мыслительные способности юриста,
задействованные в его работе, сколько-нибудь
существенно превышают аналогичные
способности шимпанзе, то замена
искусственным интеллектом такому юристу в
ближайшее время вряд ли угрожает.

Какие задачи решают нейросети
Нейросети наиболее приспособлены к решению
широкого круга задач, так или иначе связанных с
обработкой образов. Вот список типичных постановок
задач для нейросетей:
• Аппроксимация функций по набору точек (регрессия)
• Классификация данных по заданному набору классов
• Кластеризация данных с выявлением заранее
неизвестных классов-прототипов
• Сжатие информации
• Восстановление утраченных данных
• Ассоциативная память
• Оптимизация, оптимальное управление

Решение задач прогнозирования с
помощью нейронной сети
Достаточно часто в производственных, экономических и финансовых приложениях
возникает задача, когда необходимо предсказать, как система поведёт себя в той или
иной ситуации. Нейронные сети широко используют для решения таких задач, благодаря
«их умению» находить зависимость между большим количеством параметров. При
обучении нейронной сети с помощью обучающей выборки мы как бы получаем график
целевой функции, зависящей от множества параметров. Конечно, мы не можем выразить
его аналитически или отобразить графически, но его «знает» наша нейронная сеть – её
коэффициенты подобраны таким образом:

6 слайд Современные глубокие нейронные сети могут состоять из миллионов искусственных нейронов, каждый из которых делает примерно то же, что перцептрон Розенблатта. Для конца пятидесятых и один работающий перцептрон был, конечно, выдающимся достижением. Однако, как это часто бывает, его поспешили слишком сильно разрекламировать. New York Times, не какой-то таблоид, на полном серьёзе писал, что теперь, когда перцептрон способен понять, слева или справа расположены яркие точки на фотографии, самое сложное уже позади: через пару лет появятся компьютеры, способные вести себя как человек, мыслить и улучшать самих себя.
Первые шаги искусственного интеллекта — чрезвычайно интересная тема. Можно было бы рассказать и о том, как потерпели неудачу проекты по автоматическому выводу, и о том, как жена Норберта Винера отбросила искусственный интеллект на десять лет назад, и о проекте по машинному переводу с русского на английский, мотивированном холодной войной… Но об этом в другой раз, а сейчас пора двигаться дальше, ко второй революции, до которой оставалось ещё больше десяти лет.

Речь идет об «искусственной нейронной сети» (ИНС), которая отнюдь не
состоит из нейронов или даже из «искусственных нейронов».
На самом деле это просто компьютерная программа, организованная
особым образом. Архитектура программы вдохновлена архитектурой
нервной системы человека и высших животных, откуда и название. В
«обычных» программах полученная компьютером информация
последовательно обрабатывается шаг за шагом по определенному
алгоритму.
Важнейшая особенность ИНС состоит в том, что вычисления в ней
проводятся не «последовательно», а «параллельно». Это значит, что кусочки
полученной компьютером информации обрабатываются одновременно во
множестве различных процессов, и лишь на выходе итоги вычислений
объединяются в общий результат. При этом каждый из элементарных
процессов очень прост (как прост алгоритм работы отдельного нейрона), а
все полезные свойства программы обусловлены характеристиками связей
между этими элементарными процессами. Для достижения желаемых
функций программы эти характеристики можно настраивать, в том числе
интерактивно, что называют «обучением» нейронной сети.
Для решения некоторых задач программы типа ИНС оказались весьма
эффективными. Как правило, это те задачи, которые люди решают без
использования логических рассуждений, на «интуитивном» уровне – такие
как распознавание лиц и других образов. Для решения других задач, таких
как математические вычисления, по прежнему предпочтительны
программы «обычной» последовательной архитектуры.

Подробное объяснение:
нейронные сети, использующие
обучение без учителя;
• Нейронные сети, использующие обучение без учителя.
Обучение без учителя является намного более правдоподобной
моделью обучения с точки зрения биологических корней
искусственных нейронных сетей. Развитая Кохоненом и
многими другими, она не нуждается в целевом векторе для
выходов и, следовательно, не требует сравнения с
предопределенными идеальными ответами. Обучающее
множество состоит лишь из входных векторов. Обучающий
алгоритм подстраивает веса сети так, чтобы получались
согласованные выходные векторы, т. е. чтобы предъявление
достаточно близких входных векторов давало одинаковые
выходы. Процесс обучения, следовательно, выделяет
статистические свойства обучающего множества и группирует
сходные векторы в классы.

Что же такое нейронная сеть?

5 слайд Будущее было за куда более простым методом обучения нейросетей — градиентным спуском, который был реализован в том числе в первом перцептроне Франка Розенблатта. Перцептрон — это один искусственный нейрон, т.е. в 1958 году Розенблатт с коллегами сумели построить модель одного нейрона, почти в точности по МакКаллоху и Питтсу.

Подробное объяснение:
нейронные сети, использующие
обучение с учителем;
• Нейронные сети, использующие обучение с учителем.
Обучение с учителем предполагает, что для каждого входного
вектора существует целевой вектор, представляющий собой
требуемый выход. Вместе они называются обучающей парой.
Обычно сеть обучается на некотором числе таких обучающих
пар. Предъявляется выходной вектор, вычисляется выход сети
и сравнивается с соответствующим целевым вектором. Далее
веса изменяются в соответствии с алгоритмом, стремящимся
минимизировать ошибку. Векторы обучающего множества
предъявляются последовательно, вычисляются ошибки и веса
подстраиваются для каждого вектора до тех пор, пока ошибка
по всему обучающему массиву не достигнет приемлемого
уровня.

Тип входной информации
-аналоговая – входная информация представлена в
форме действительных чисел;
-двоичная – вся входная информация в таких сетях
представляется в виде нулей и единиц.
Сети прямого распространения – все связи
направлены строго от входных нейронов к выходным.
К таким сетям относятся, например: простейший
персептрон (разработанный Розенблаттом) и
многослойный персептрон.
Реккурентные нейронные сети – сигнал с выходных
нейронов или нейронов скрытого слоя частично
передается обратно на входы нейронов входного слоя.

10 слайд 3
Третья революция: теперь работает и на практике
В 1990-х и первой половине 2000-х годов об искусственном интеллекте, конечно, не забывали. Он вполне успешно развивался под названием «машинное обучение». Девяностые годы стали эпохой расцвета так называемых ядерных методов (kernel methods), в частности, метода опорных векторов. Всё время продолжали развиваться вероятностные (байесовские) подходы к машинному обучению. Кстати, искусственный интеллект оказался, по сути, разделом прикладной теории вероятностей, и современные достижения намекают: в глубоких нейронных сетях вероятностные методы тоже необходимы.
Однако в конце нулевых снова всё изменилось. Наконец-то желания и возможности исследователей в области нейронных сетей приблизились друг к другу. Появились наборы данных, которые по меркам девяностых годов были невероятно гигантскими. Появились вычислительные мощности, способные их обрабатывать; кстати, не последнюю роль в революции глубокого обучения сыграли геймеры, точнее, доступные массовые видеокарты, которые, как выяснилось, прекрасно подходят для обучения нейронных сетей.

4 слайд В этом эссе великий логик и информатик предложил идею теста Тьюринга, которая оказалась необычайно плодотворной и до сих пор может служить вполне адекватным методом проверки на способность мыслить. Однако пока это была чистая теория, а серьёзные практические успехи искусственного интеллекта сразу же оказались связаны с нейронными сетями.
Интересно отметить, что искусственные нейронные сети появились даже раньше, чем сам искусственный интеллект: основополагающая работа Уоррена МакКаллоха и Уолтера Питтса о простой модели нейрона относится к 1943 году, а уже в 1949 Дональд Хебб предложил первые алгоритмы обучения. Про обучение по Хеббу до сих пор иногда вспоминают в вероятностных моделях, но в целом оно оказалось слишком сложным и хрупким для реализации.

7 слайд 2
Вторая революция: теоретически всё работает
Начальный энтузиазм искусственного интеллекта, подогретый успехами Розенблатта и других исследователей, быстро подошёл к концу. Вышеупомянутый проект машинного перевода провалился, да и не мог не провалиться — в 1960-х годах не было ни моделей, подобных современному Google Translate, ни тем более данных, на которых их можно было бы обучить. После этого кран, из которого в искусственный интеллект обильно текли государственные деньги, прикрутили, и началась первая «зима» искусственного интеллекта (AI Winter).
Американский ученый Фрэнк Розенблатт

Заменит ли нейронная сеть живого юриста?

Цель!
Подробное информация о:
Введение
классификация систем нейронной обработки.
классификация нейронных систем по типу входных
и выходных сигналов.
классификация интеллектуальных нейронных
систем по параметрам управления.
классификация нейросетей по типу связей и типу
обучения.
предметные области, использующие нейросетевые
задачи.
Заключение

Наверное, многие слышали понятие «нейронные сети», ассоциативно связывая его
с искусственным интеллектом, андроидами, роботами, способными учиться, глядя
на людей.
Одни при этом испытывают страх неизведанного, страх перед возможными
последствиями, другие заинтересовываются полезное применение, и видят
помощь в исследовании неразрешимых сегодня задач.
Проявление интереса к искусственным нейронным сетям было обусловлено
работами пионеров в этом деле — У. Маккалоха и У. Питтса. В 1943 году внимание
общественности привлекла работа под названием «Логическое исчисление идей,
относящихся к нервной деятельности», в которой они предложили
математическую модель нейрона и сформулировали принципы построения
искусственных нейронных сетей, согласно разработанной ими модели
функционирования головного мозга.

Товарищи
юристы, забудьте свою профессию. В
прошлом году 450 юристов, которые у нас
готовят иски, ушли в прошлое, были
сокращены. У нас нейронная сетка готовит
исковые заявления лучше, чем юристы,
подготовленные Балтийским федеральным
университетом. Г. Греф (РБК, 23.07.2017)

11 слайд Разумеется, были и математические идеи, без которых вряд ли бы что-то получилось, но в математику мы сейчас вдаваться не будем. В целом, последние десять лет выглядят как победная поступь глубоких нейронных сетей: сначала они перевернули мир распознавания речи (без глубоких нейронных сетей не появились бы современные виртуальные помощники), затем настала очередь компьютерного зрения, сейчас глубокие нейронные сети активно используются для обработки естественных языков… В общем, может показаться, что весь искусственный интеллект сузился до обучения глубоких нейронных сетей. Это, конечно, не совсем так, но довольно близко к истине.
Я не смогу рассказать вам, чем закончится третья волна хайпа искусственного интеллекта и нейронных сетей — сейчас мы всё ещё живём на её подъёме. Возможно, она закончится очередным лопнувшим пузырём чрезмерных ожиданий. Возможно, мы создадим искусственный интеллект, который добьётся человеческого уровня, научится сам себя улучшать, и дальше уже мы ему не потребуемся; никто сейчас этого не знает. Но давайте всё-таки немножко порассуждаем о том, что ждёт нас в будущем.

12 слайд Что дальше?
Что же дальше? На самом деле не всё так радужно, и в искусственном интеллекте ещё очень много открытых вопросов. Несмотря на потрясающие успехи компьютерного зрения, даже задачи распознавания и слежения за объектами, с которыми мы с вами справляемся с лёгкостью, до сих пор далеко не решены. Ещё хуже обстоят дела в обработке естественных языков: до компьютерной программы, которая могла бы «прочесть» текст и выделить его смысл (например, ответить на чуть более сложные вопросы по тексту, чем воспроизведение конкретных фактов из него), ещё довольно далеко.
Но исследователи, как всегда бывало в предыдущие волны популярности искусственного интеллекта, полны оптимизма. В 2016 году ученые из оксфордского Future of Humanity Institute провели опрос, в котором задали лучшим современным исследователям в области искусственного интеллекта такой вопрос: «Когда, по вашему мнению, компьютерные программы смогут выполнять все задачи, которые сейчас выполняют люди?» (этот уровень развития обычно называют HLMI, high-level machine intelligence).

8 слайд Но работа продолжалась. В течение 1970-х годов в искусственном интеллекте произошло много интересного, но одним из главных результатов было то, что люди поняли: при помощи градиентного спуска можно обучать не только отдельные перцептроны, но и большие искусственные нейронные сети, состоящие из, теоретически говоря, любого числа перцептронов, соединённых в любых комбинациях (разве что без циклов).
Эта идея довольно проста, и к середине 1980-х годов она окончательно стала мейнстримом в искусственных нейронных сетях: стало понятно, что есть единый алгоритм обучения, который, теоретически говоря, должен работать для любой архитектуры нейронной сети, сколько бы в ней ни было слоёв и нейронов. К этому времени относятся и основанные на работах Колмогорова результаты Хорника об универсальности нейронных сетей: оказалось, что даже не очень глубокая нейронная сеть способна, теоретически говоря, приблизить любую функцию, решить любую задачу…

Своя собственная мнения
• Я понял, что нейросети это компьютерная
программа, которая работает подобно
человеческому мозгу, которые пропускает
информацию в виде данных через систему
« нейронов » . То есть нейросеть — это программа
способная к самообучению.
• Так слово «нейрон» происходит от греческого слова
«нерв».
• Нужен для определение название объекта, класс,
находить похожие информации и разделять их,
выявлять, прогнозировать, анализировать
создавать, диагностировать и тог дали.

13 слайд Оказалось, в среднем исследователи считают, что у нас есть 50% шансов увидеть HLMI в течение ближайших пятидесяти лет. Если сложить это с достижениями современной медицины и постоянно возрастающей продолжительностью жизни, получается, что у многих из нас есть шанс дожить до сильного искусственного интеллекта! Ну что ж, будем надеяться…