Low level programming

Вы сравните сроки инженерных разработок в 20-ом веке с этими скоростями в разработке прог есть масса удобия == отладчик, ресет, вирты.. а что были ли такие удобия у тех конструкторов/инженеров??? и при этом скорости работ были ФАКтически на порядки выше. при этом клоуны а-ля курцвейл вещают про некую тех сингулярность.

--- Сообщение объединено, 7 фев 2020 ---

из мира ой-ти можно вспомнить ютуб == это чудовищно более сложная система, чем хрюнь.. однако, она несравнимо надёжней пашет и разработка её продолжается в сущности в онлайн режиме, то бишь без даунтаймов самого ютуба.

 

M0rg0t,

> Зато в линукс апи проще.

Конечно проще, это ведь содрано с доса, его копия. msdos.

> апи, в котором 90% параметров всегда NULL ? Зачем?!

Интерфейс минимален, к примеру многие сервисы требуют дескр безопасности, но почти всегда он дефолтный и можно передать ноль. Или например обычно размер возвращаемой ядром инфы не нужен. Но есть случаи когда это нужно, что бы не усложнять и не вводить новый сервис передаётся обнулённый параметр.

> А понять винапи (не говоря уж о натив/кернел) можно лишь обожравшись веществ.

Открыв нэйтив ты по именам функций поймёшь что они делают. Не только в яп такое используется, в том же ру есть правила, например заглавные буквы и пробелы. Это необходимо что бы понимать язык. Вот тебе пример что бы понятно было, предыдущая фраза:

нетольковяптакоеиспользуетсявтомж..

- не читаемо, конечно. Дальше подумай сам, что из этого следует.

 

Про сингулярность это вам строит заняться NLP. Вот там нейронками заменяют людей. Все новости пишут нейронки, а не люди. Люди остались только в мелких городах в газетах. Вот там слог и стиль. И таки скора нейронные сети смогут заменить программистов если поднатужатся. Так что сингулярность вполне имеет место быть. Есть нейронные сети которые работают в тандеме и тем самым они способны к само обучению без учителя. Такие применяют в играх, тот же Го где комбинаций выше головы и их не запомнишь.

Только время наступление сингулярности через 100 плюс минус 50 лет.
---------------------------------------------------

Что касается пошаговой отладки ,то она появилась в интерпетаторе в Лиспе ещё в конце 60-тых начале 70-тых годов.
Инженера тех времен строили стенды для отладки. А сейчас делают это в симуляторах, что быстрее.
Однако до конца 80-тых программисты на Си обходились без отладчика. Но Win XP который был написан позже как раз писался с использованием отладчика.
А тесты там умора.
Но вообще написание тестов, как и рефакторинг упрощает разработку и ускоряет её. С тестами вы быстрее отладите нежели чем с одним отладчиком. Ровно как плохо и другая крайность.
Ещё из истории Alt+Ctrl+Del появился в ДОСе как средство быстрой перезагрузки. Всего за 9 секунд, когда как до этого загрузка занимала 30-60 секунд. И тогда отладка пошла быстрее.

Восколько раз увеличилась скорость разработки с того времени? Ну не знаю. Я вообще черепаха 50 строк в сутки пишу, хотя наверно потому что на работе загружин другими задачами. А нормой считается 100-150 строк это по CMS системам меряли. Конечно бывают и исключения когда человек комуниздит чуждой код или просто копипастит его,то скорость доходит до 1000 строк.

 

клоунов, кои вещают, мол-де чел мозг слабей калькулятора хватает. Так что заместо роста интеллекта у челов их опускают до уровня калькуляторов, отсюда и получаются описанные Вами "успехи"

чтобы создать реально сильный интеллект, нужно объединять различные выч. архи, дабы обходить бутыльные горлышки. у цЫфЫрьки слишком большая куча экспоненциальных ям + няма компактности + здоровое энергопотребление (сравниваем с чел мозгом, а он в Природе далеко не самый лучший) + цЫфЫрька, что кисейная барышня, то бишь не очень подходит для создания развитой автоматики для работы в агрессивных средах (вспоминаем ту же Фукусиму).

Го и шахматы -- это одни из хороших примеров унылости цЫфЫрьки == куча кВт-часов, чтоб в узкой специализации победить мозг (на 20Вт мощей)..

к чертям такую $i№Х¥лярность.

симуляторы -- это всего лишь вспомогалка, а в основе всегда стенды.

в прогах няма и одного процента уникального кода, пч задачи в основном типичные. вот ютуб действительно требует большую кучу нетипичных решений да ещё и в реальном времени. но опять же эти коды пишет не тот же альфаго, а челы (динозавры, надо отметить.. сейчас таких крен найдёшь)

 

По началу так и было, а потом программисты оптимизировали алгоритмы
https://habr.com/ru/post/478120/

Это не так. Человек учится играть в Го несколько лет брать Сидоля, то пусть 1 год до 1 дана и 3 года до 9 дана.
4*12=48 месяцев.
Современная программа для игры в Го обучается 2 месяца на одном TPU с потреблением 24-200 Вт.
TPU 2*200=400 Вт
Живые мозги 48*20=960 Вт.
Так что современная TPU как минимум в 2 раза эффективнее по тепловыделению чем человек.

 

Pavia,

> Так что современная TPU как минимум в 2 раза эффективнее по тепловыделению чем человек.

Не корректно сравнивать кремний с мозгом, они на разных принципах работают. Биол память основана на свёртке, фактически это сжатие инфы для оптимального её хранения. Мозг работает на основе оптимизации именно по вычисл. мощности. Кремний работает иначе, он выполняет заданную последовательность, не меняя алгоритм и греется при этом.

 

Так изучите как работают нейронные сети в паре когда первая меняет граф второй.

 

Какое отношение это имеет к метаболизму нейронов, экспрессии генов в их ядрах, рнк-миру и пока хрен знает какому функционалу глиальных клеток? Зачем вы отправляете учить модель, которая все равно не описывает и малой доли того, на что похож на мозг? Просто задумайтесь, из сперматозойда и яйцеклетки, путем многократного деления и активации генов, вырастает согласованный организма, умеющий ставить и достигать адаптивные цели в агрессивной среде. Более того, менять среду. Организм, в котором половая, сердечная и другие системы всегда поспевают к нужному моменту. Ну и что в том, что некий первая сеть - автомат(код) меняет граф(данные) второй сети?

 

Ничего общего. А что тут такого? А то что она превосходит ваши естественные сети. Правда пока на единичных задачах. По этому я и откладываю сингулярность на 50-150 лет. Когда такие сети превзойдут естественные во всех задачах.

Раз организм может существовать несколько лет, то не такая эта уж агрессивная среда.

Такое поведение хорошо описывается квантовой математикой. Другое дело что тут нужно ещё немного разработать теорию. Собственно парные процессы достаточно хорошо изучены и они обладают хорошей устойчивостью. Тандемные искусственные нейронные сети пока что не достигли придела обучения. Для симуляции человека нужно больше квантовых-величин чем пара.
А ДНК это как исходный код для таких программ. Теоретически это можно всё описать, а вот для практической симуляции по выращиваю вирутальных человек по ДНК нужно большая производительность чем сейчас.

 

без папы и мамы не особо как-то вообще без социальных связей.

что описывает ДНК? интерпретаторы субъективных миров? Китайский, русский или иной язык зулусов? Математику или музыку? Да ну бросьте.

 

https://www.nationalgeographic.com/science/phenomena/2013/01/16/genetics-burrowing/
Гены описывают то, как грызуны строят свои норы. Так что и способности к изучению языков тоже заложена в генах. Конечно и дурака можно научить писать и считать и тут важно окружение.

Ваш телефон живёт без вас сутки неделю. А есть сервера долгожители у которых время ап-тайма доходит до 10 лет стоят забытые в стенке и не жужжат.
Вот сейчас появляются умные дома. У нас проекты индивидуальные. А вот в штатах там принято что раз стройка то будь добр соблюдай общие стандарты. Там умные дома однотипные. И если раньше их обслуживали люди, то скоро их будут обслуживать роботы.

Вот когда вы сможете на компьютере за разумное время нагенерировать 1000 сценариев для роботов. Робот идёт по дому видит, человека видит розетку которую нужно починить и чинит её. И всё это в 3D симуляторе прогоняется со скоростью. 1000 за час. Вот тогда это всё и начнётся.

Сейчас видеокарта выдает 100 FPS если камера пишет 10 FPS то имеем 10 сценариев. Нам нужно 100 кратное ускорение. Чего можно добиться будет всего за 10-15 лет.
Такое состояние вещей замедляет развитие, но не останавливает его. Так что через 10 лет робот доставщик еди может стать уже обыденностью.

 

И что же должно будет произойти с этим доставщиком еды, что бы он придумал резку кислородным копьем?

--- Сообщение объединено, 8 фев 2020 ---

Я к чему это, есть куча разрывов между знаком и смыслом, между рефлекторным алгоритмом и творчеством. Это всё интерпретаторы особого рода. Допустим, уже много раз нейронные сети выдавали на гора законы превосходящие на несколько порядков по мощи уравнения Максвелла. Допустим. Где гарантия, что они не деградировали до решения, которое человек признает решением? Может быть ИИ уже не один раз был создан, но всё происходит как в анекдоте. Таблица сперва приснилась Пушкину, но он не понял что это такое. Поэтому ей пришлось присниться Менделееву.

 

даже при сих оптимистичных расчётах Вы не учитываете == охлаждение это ещё 400Вт для тпу + озу (сколько там на борту стоит ??? ) + бд хранится на пзу. короче, даже при самых оптимистичных натяжках всё это крайне уныло

 

q2e74,

> И что же должно будет произойти с этим доставщиком еды, что бы он придумал резку кислородным копьем?

Хороший пример, он не придумает резак, потому что у него нет инфы про него. Нейронка выбирает из исходного массива данных, как она внутри себя их обрабатывает не важно. Это просто хитрый механизм поиска подобий/приближений(поэтому и полином) на основе эталонного массива(dataset"). Что фанатики про всякие аналогии с мозгом приводят полный бред.

 

UbIvItS, 150 Вт на ЦП рассеивается обычным вентилятором 12В *0,3 А= 4 Вт. А не рефрежератором на 400 Вт которые ставят на фуры и морской контейнер.

Это всё копейки суммарно не более 35 Вт включая вентиляторы. Для справки SSD=0,5-2 Вт, RAM=2 Вт. Ну тогда давайте и полные затраты человека возьмем у него оказывается не 24 Вт, а все 100-200 Вт

И во-вторых потребление энергии зависит от количество тактов в секунду. А так как наш TPU обгоняет мозг в 10 раз, то можно просто затормозить его.

Что касается объема памяти мозга, то его можно оценить по количеству нейронов в мозгу их 60*10^9 допустим каждый нейрон может запомнить 8 бит информации. Тогда получаем 60 ГБ. Сейчас в серверах ставят по 32 Гб плашки до 8 штук =256 Гб, IBM вообще умудряется поставить 1ТБ.
Однако на Google TPU распаяно всего 8 ГБ. Но это нормальная практика когда каждый последующий КЭШ в 10 раз меньше.

 

Pavia,

> Тогда получаем 60 ГБ.

Допустим зрение распознаёт движение некоторого обьекта, так как он в системе других, то это движение системы обьектов. Разрешение зрительной системы какое ?
Первая ссылка гугла ведёт на хабр, но там описание не верное, так как во первых сигналы это развёрнутые во времени импульсы(тоесть не бит на канал), да есчо и цвета/яркость/итд. Во вторых так просто посчитать нельзя, так как внимание направляется(фокусируя зрение) на узкую площадь, чёткость на расстоянии от которой падает. Пусть будет 1М: 1024 пикселя * 1024 оттенка. Если принять что скорость обработки одного кадра мозгом 20мсек, то получается в секунду количество данных 50М. После свёртки изображения(его анализа) оно из зрительной памяти удаляется полностью(КВП"), остаётся лишь занимающий малый обьём памяти результат, в виде траектории например или информации про форму обьекта, хранимую абстрактно. Тогда как нейронке пришлось бы на хранение этой инфы затратить 3Гб/мин и ресурс памяти был бы исчерпан за 10мин

 

вот именно что нельзя. эта мысль на уровне сравнения теплого с мягким по критерию глубины алфавита для конкретного языка.

 

q2e74,

Верно, 1 нейрон !~ 1 бит, это ведь не sram. Информация может многими способами хранится, образуя некоторые структуры между нейронами и так например рекурсивно, может она циркулирует как сигнал.. кто его знает.

 

а вот тута всё зависит от плотности установки

имеется, конечно, Надёга..

на самом деле есть все основания для дальнейшего роста процента охлаждения. Ибо дальнейшее увеличение плотности элементов требует не просто увести тепло, а увести его за предельно малое время

а вот и не надо == мозг большую часть своей работы тратит на автоматику организма, а не на го, тч даже 20Вт -- это крайне завышенная цЫфЫрь

сколько времени уЖО я пересекаюсь с разрабами ии и всё эти сказки повторяются из раза в раз == раньше говорили, мол-де калькулятор обогнал мозг, теперь тпу

есть мнение, что хухль нагло лжёт и занижает актуальные спеки железок альфаго. технически можно говорить о возможности впихнуть тот же альфаго даже в смартфон и с минимумом потерь на качестве. Но весь прикол в том, что сначала делается крупная нс-ка иль стат. модель, кои еле-еле впихиваются в суперкомпы, затем эталонную модель начинают оптимазить, уменьшая кол-во слоёв/связей/битность. общий бюджет по джоулям получается весьма здоровым, но главная пЯчаль == это отсутствие гибкости таких моделек, под каждую узкую задачу надо начинать с ново здорово. для создания ии на уровне чел дебила чрез такие подходы всей ой-ти индустрии придётся обанкротиться

 

Нейрон живет полноценной самостоятельной жизнью и преследует ему одному ведомые личные цели. В течении жизни переустанавливает связи аксоном (а есть нейроны у которых их больше одного), регулярно появляются новые шипики на дендритах, да он(нейрон) тупо двигается и уползает. Он так умеет, в отличии от клетки эпителия. Сознание и память - это системные свойства, как способностью летать у самолета, поэтому полностью согласен, в отношении циркуляции сигнала.

Ладно, можно понять, когда вспоминают про кодон в попытках подсчитать ёмкость. (Но это тоже на уровне, всего семь нот => возможных мелодий столько-то) Но так уверенно приравнивать целый нейрон - это, даже не могу подобрать слов.