нейронные сети

Всем привет. Хотел бы пообщатся на тему проектирования нейронных сетей и принципов их работы. Литературы и исходников просто очень много. А хочется просто разобратся хоть на начальном уровне и получить осязаемые результаты. Я тут нашел компонент для Делфы, и демо программу. Все исходники есть. Натравил я эту программу, на биржевые данные, и появились вопросы. Какое количество оптимальных входных данных, насколько логично работать с датами, и как потом прогнозировать входные данные, если по ним будут потом расчитыватся нужные мне данные?

 

Этим постом прикрепляю программу с подопытным файлом. В следующих постах выложу компонент с иходником.

 

у меня тоже имеются кое-кикие наработки в этой области.
тока я собираюсь использовать их для распознавания образов на изображениях для начала.

 

Я в нейронные сети неверю. И вот почему. Должнать быть причинна следственная зависимость.
Как работает нс. НС бывают разные.
Возьмем классический персептрон 1 слой тут все понятно мы обучили проверять картинку на совподение наших данных и эталона. Эталон заложен в этих самых коэфициентах. Все больше это тип нс ничего не умеет. Разве что можно заложить гибкость чтобы не реагировал на определенные пиксели.

Возьмем многослойный персептрон. Что ето такое это некоторое уравнение матричного вида. Как обучать будем?

1) Пробовать методом тыка милион лет пока ГА что-то родят.
2) Взять и решить систему уравнений. Такая нс будет опять жесткая. Куда она предскажет неясно все зависит от уравнения. Будет устойчевым будут предсказания. Не будет устойчивой будет черти что. Если система устойчива то она находится около своего мат ожидания и форму всплеска не предсказывает. Тут еще можно решить чтобы была достаточно устойчевой.
С таким же успехом можно применять простые регресионные методы.
3) Метод обратного распростронения ошибки. Надеется что меттод настроит сеть можно. Но ничего хорошего не дает. Пробуем натянуть n-мерную оболочку на кучу случайных данных. Вопервых тут еще проблеммы то что слои мешают друг друггу. Создаваяя рябь в результате чтобы преодалеть локальны минимумы нужно производять встряску.
Опять таки не ясно за что зацепится решающая система каким конкретно образом она решит ее. Толи отбросит часть данных толи наоборот будет цеплятся за какуюто мелочь. Так что результат более чем не предсказуем.


У НС много пробелов не изученных математически. В основном все строится эксперементально.

А карты кохенена. Это группировка точек. Позволяет найти секущую плоскость в для (n-1) пространства.

Выбор этого пространства не определен. Так что опять не определенность с решением.
Зато такая сеть будет достаточно устойчивой. Какието закономерности эта сеть сможет выявить, но не все.

Если закономерности проявляются переодически с течением времени( пространства) то такии выше сети не подходят так как рассщитанны на работают в точке. Благо придумали еще один тип нейронных сетей корреляционные.

Сетеями я бы их не назвал. Ну уж прицепилось название то ладно оставим. Тут появляются разные методы обучения.
И разный метод нацелен на определенный свойства. Если тупо брать и обучать то ненамного превосходит предыдущии типы. Правда благодоря устойчивости к пространственным изменениям работают на порядок лучше.

Да НС могут многое. Но ненадо складывать разные возможности присущии разным сетям и моделям обучения. А особенно гипотетическии возможности большии, а на практике нет средств для их достяжения.

 

Все зависит только от реализации. В тексте ни слова про детали реализации этой НС.
Pavia
Довелось как-то поручкать спец. софт. Вот там один из методов - нейросетевой. Очень хорошо работает, зря вы так о нейросетях.

 

это потому, что заточена под одну цель.

 

Clear__Energy
так у нс и не стоит (пока) задача ии и все такое. У них пока картинки бы распознавать, да голос.

Pavia
Я с вами согласен вот в чем, на данном этапе развития нейронка это просто сильный алгоритм записанный в другом виде с самомодификацей (в простых случаях даже без нее) но я бы сказал есть 1 плюс они хоть как-то могут самообучаться, да криво, да часто неправильно, но сами ,автоматически, для многих вещей это критично. Те нейронка пишет алгоритм за вас, я не спорю алгос написанный ручками будет работать лучше, НО время потраченное уже не вернешь. Если кратко выражать то что сказал, то "нейронка заменяет кучу ифоф" а ручками хи писать это адь.

офтоп
Никто мозги не изучал, сильно они отличаются от нейронки?

 

если для нечеткой логики можно сделаеть журналирование "вывода правил" даже на великом могучем, то для нейронных сетей не существует никаких отладчиков, особенно когда данные начинают не вписываться в область определения.

под определенную задачу.

 

t00x
проблемы написать отладчик нету, но хватит ли мозгу с ним работать )

PS забыл сказать что вся фишка в механизмах обучения, сам нс вроде как в теории может все

 

SPA
Вот чего чего, а алгоритм нейронка не пишет. Хотя какуюто приметивную опирацию может родить. Но не более.

Поповоду голоса оно там вобще не в какую не работает. Все держится на многочисленных иследованиях.
А картинки да тут работает. Но работать начинает в тот момент когда уже и не надо.

На обучения нс больше потратишь и разберательства почему неработает. Чем сделать то что надо ручками через туже корреляцию или собственные вектора/числа или решения системы уравнения.

Или SVD хотя от нс почти нечем не отличается. Но там мне идеология нравится там прямым текстом говорится что она может и как делает.

 

Не нужно навешивать много задач на нейросети. Вот например капча, кто-то делает распознавание по пикселям, переводит картинку в матрицу, а кто-то пытается сделать векторы в частях символов и уже их анализировать через нс, я к тому что в первом случае из нс пытаются сделать "глаза", а во втором используют как "мозг" с предобработкой данных. При многоуровневой реализации можно добиться хороших результатов - один модуль нс делает одно, другой другое и все вместе выдают общий результат.

 

Pavia
это на сечашнем уровне она может мало чего родить, а в теории может и нарожать... вообще пока просто не придумано нормального способа обучения все упирается в это.

 

Очень конструктивная дискусия. Очень интересные мысли. Если кто скачивал программку, так вот вопрос. Есть входные данные и выходные. Допустим я работаю с акциями некоторых компаний, на их стоимость влияет курс доллара, цена нефти, уровень безработици в США. Допустим я обучил нейросеть данными за последний месяц. Нейросеть готова мне ответить сколько будут стоять акции в опредленный момент времени, только ей нужно сказать какими будут остальные переменные значение которых мне не известно, но уверен для многих это очень важно (цены на нефть, курс доллара и тд.) Или нужно просто табулировать определенный диапазон в котором будут менятся входные данные. Я вот даже такой вещи пока на уровне концепции понять не могу. Слудющим постом прикреплю сам компонент.

 

компонент

 

author2009
хоть бы скомпилировал, чтобы поиграться.

 

SPA
Это не теория это гипотетическая возможность. Классчическая НС очень сильно ограниченна в возможностях. О чем я упоминал выше.

А способ кто выбирать будет человек или все попорядку пробовать? Во вторых скорость нс не всегда эффективно.

im1111
Это блуждание в потемках многослойная НС не способна аналезировать только потому что не может толком дать ответ как она работает. А пробовать методом тыка можно. Но в начале надо доказать что НС сможет распознать, а во вторых правильно задать вектор куда тыкать. Или хотябы обратную связь.

Дык какая разница что пропускать через нс принцип действия не изменится.
Взяли данные выделели вектор призноков строим разделение по классам это разделение с точки зрения математики есть проведения плоскости (n-1) в (n) мерном пространстве. Так что что глаз от мозга не сильно у вас у ехал только названием. А это сути не меняет.

Если человек может поставить задачу то в 99% он ее решит.
А пока методы постановки задачи не существуют. Так что разные участки придется конструировать человеку. А смысл использовать тупую НС для решения когда человек гораздо умнее то он быстрее сможет все сделать и даже лучше.
Да иногда надо применять методы автоматизации для рутинной работы. Но такии методы есть.

 

Я это и хотел сказать, что "распознавание" задач это еще не решена проблема, вот как решать, тогда и будет уже видно.

 

Первый вариант лучше подставляем текущии данные она выдает результат.
А табулировать можно. Но тут как повезет. Табуляция может выдать как реально будет вести себя данные в зависимости от расхождения параметров так может выдать внутреннею особенность НС. Причем неясно насколько такии данные будут похоже на правду, и проверить трудно.

 

вот я примерно этой идеологии придерживаюсь.

 

и да, нейросеть - упрощённая модель мозга. ни о чём не говорит?