Миф теории информации

04 июль 2012 11:45
admin аватар
admin
Посетитель
Посетитель
Автор темы
Миф теории информации #19317
Статья не может быть показана

Пожалуйста Войти или Регистрация, чтобы присоединиться к беседе.

04 июль 2012 18:01
covax
Матерый писатель
Матерый писатель
Сообщений: 661
Больше
Миф теории информации #19321
Хорошая качественная запись, надо сказать.

Хмур (судя по голосу) был прав в том, что теория информации станет фундаментальной, если будет описывать взаимодействие источника и приёмника, о которых ничего неизвестно.

Информация - мера воздействия системы А на систему Б. (при условии, что воздействие направлено от А к Б) В принципе верное определение.

Понятно, что мерить формализованный поток будем в контексте системы Б, а линейкой будет словарь системы Б. Чтобы системы понимали друг друга им нужны относительно похожие словари.
Тогда мера воздействия определяется похожестью словарей и искажениями потока в канале. Погрешности алгоритмов кодирования/декодирования не в счёт. Это была трактовка из теории связи.

Теперь самый главный вопрос - а если словарей нет?. А такое вообще может быть? В мире материальных взаимодействий такого быть не может!
Система-приёмник (как локализация признаков) всегда имеет базовую структуру (структуру пространственных и временных отношений этих самых признаков). А структура, которая была до взаимодействия, это и есть первичный базис восприятия. Что, собственно и является первичным словарём. Важна ли структура системы-источника? Важна, но не в первый момент взаимодействия.

Итак.
* Система А. Словарь неизвестен. Даёт пространственный, неформализованный поток.
* Система Б. Есть первичная базовая структура восприятия потока (пока не важно какая).

Задача - определить меру воздействия А на Б. Иными словами, нужно выявить информативную составляющую воздействия в символах системы Б.

Поток системы А воздействует на структуру системы Б. Мерой воздействия можно считать степень деформации структуры системы Б под воздействием потока. Это верно для всех теорий инф-и, связи и т.п.
Характер и степень деформации можно абстрагировать символьно (к тому же в пространстве и во времени) в какой угодно системе символов (условных единиц меры). Разве это не информация о неформализованном потоке? Разве это не информация вообще?

Резюмирую.
"Информация - мера воздействия системы А на систему Б". Иными словами, инф-я - мера адаптивных структурных изменений в рез-те взаимодействия.
Или. Информация - символьное (формальное) представление воздействия. Естественно, в контексте системы Б (приёмника).

Ещё, прикол в том, что в случае неформализованного потока источника, нет смысла в наличии канала связи. Т.к в первый момент невозможно отличить помеху от самого потока (неопределённость максимальна). А помеха "отвалится" сама по себе по мере адаптивного формирования словаря (обучение без учителя). А вот структура источника, как и самого потока всё же важна для наличия фактора пространства (как признака системы А) в словаре приёмника.

Не думаю, что удалось внести что-то новое, но ясность по поводу информации, по моему, предельная.

Пожалуйста Войти или Регистрация, чтобы присоединиться к беседе.

04 июль 2012 19:43
aleksandr
Академик
Академик
Сообщений: 2802
Больше
Миф теории информации #19322

covax пишет: Хорошая качественная запись, надо сказать.
......................................................................................................................................................................
Не думаю, что удалось внести что-то новое, но ясность по поводу информации, по моему, предельная.



Часть сообщения скрыта для гостей. Пожалуйста, авторизуйтесь или зарегистрируйтесь, чтобы увидеть его.

Пожалуйста Войти или Регистрация, чтобы присоединиться к беседе.

05 июль 2012 03:11 05 июль 2012 03:12 от covax.
covax
Матерый писатель
Матерый писатель
Сообщений: 661
Больше
Миф теории информации #19331

aleksandr пишет: Пешы исчо!

На критику не похоже, значит это одобрение. Спасибо :)

Пожалуйста Войти или Регистрация, чтобы присоединиться к беседе.

05 июль 2012 03:49
max
Опытный писатель
Опытный писатель
Сообщений: 446
Больше
Миф теории информации #19332
один простой вопрос.

ЗАЧЕМ ДАВАТЬ ОПРЕДЕЛЕНИЕ ПОНЯТИЯ ИНФОРМАЦИИ?

какая цель у всего этого?


не кажется ли вам, что это бесперспективно..
- пытаться дать четкие определения сущностям, характер которых изначально относителен?
как у понятия ВРЕМЯ.
все ведь знают, что физически времени нет.

не та ли история и с информацией?

бывает, что до человека ценность и смысл полученной информации доходит только через много лет..

Моя точка зрения: В плане количественной оценки можно говорить только о информационной мощности воспринимающих элементов ( органов чувств приемника). В своей теории я принял, что органы чувств состоят из элементов двоичной природы (0 или 1; активен или неактивен). Значит мощность канала можно выразить элементарно через общее количество принимающих элементов n. При этом общее количество различных воспринимаемых образов будет равно 2^n.

Все остальные оценки будут иметь качественную природу и : 1) нетривиальны 2) относительны.

Пожалуйста Войти или Регистрация, чтобы присоединиться к беседе.

05 июль 2012 06:26 05 июль 2012 06:44 от covax.
covax
Матерый писатель
Матерый писатель
Сообщений: 661
Больше
Миф теории информации #19333

max пишет: один простой вопрос.

ЗАЧЕМ ДАВАТЬ ОПРЕДЕЛЕНИЕ ПОНЯТИЯ ИНФОРМАЦИИ?

какая цель у всего этого?


Это для наших детей. Чтобы учитель мог им в школе объяснить на чём основан смысл информации, на чём держатся всякие прочие информационные теории.

max пишет: один простой вопрос.
не кажется ли вам, что это бесперспективно..
- пытаться дать четкие определения сущностям, характер которых изначально относителен?


Саму относительность можно возвести в абсолют, это и даёт возможность опираться на неё в аксиомах, теоремах и тп

К примеру, сложность относительна. В этом случае нет смысла пытаться определить абсолютную сложность объекта. Но если принять фактор относительности, то сложность одного объекта можно определять относительно другого объекта, а двух объектов - относительно третьего. Полученные сложности объектов уже можно сравнивать. Они ведь в одном базисе - в базисе наблюдателя!

Тоже самое с информацией. Информацию трактуют относительно словаря приёмника и более никак. У человека своя информация, у собаки своя. Словари разные, а значит информацию собаки человек не может воспринять и тем более оценить её количество.

max пишет: как у понятия ВРЕМЯ.
все ведь знают, что физически времени нет.


я вам и время определю относительно.

Время - мера инерционности взаимодействия

Разжевать?

max пишет: не та ли история и с информацией?

бывает, что до человека ценность и смысл полученной информации доходит только через много лет..


Верно! Это потому, что словарик у человека еще не вырос до той степени, когда он (человек) может прочитать поток должным образом.

max пишет: Моя точка зрения: В плане количественной оценки можно говорить только о информационной мощности воспринимающих элементов ( органов чувств приемника). В своей теории я принял, что органы чувств состоят из элементов двоичной природы (0 или 1; активен или неактивен). Значит мощность канала можно выразить элементарно через общее количество принимающих элементов n. При этом общее количество различных воспринимаемых образов будет равно 2^n.


При условии, что вы можите выдрать из потока эти самые нолики и единички. А для этого уже нужен словарь для относительной формализации.
Формальный базис {0,1} не фундаментален.

max пишет: Все остальные оценки будут иметь качественную природу и : 1) нетривиальны 2) относительны.


Относительны - это да! У нас все единицы измерения относительны. Попробуйте найти абсолютную.

А нетривиальность относительна тривиальности. Тривиальность, также относительна ещё более тривиальной тривиальности и тд. Абсолютных единиц нет! Пора привыкнуть уже
Определений, аксиом и теорем тоже нет абсолютных, вот и пишу :)

Пожалуйста Войти или Регистрация, чтобы присоединиться к беседе.

05 июль 2012 06:52 05 июль 2012 07:05 от max.
max
Опытный писатель
Опытный писатель
Сообщений: 446
Больше
Миф теории информации #19336

Это для наших детей. Чтобы учитель мог им в школе объяснить на чём основан смысл информации, на чём держатся всякие прочие информационные теории.


не увидел ответа.

Саму относительность можно возвести в абсолют


потому она и относительность, что ее нельзя возвести в абсолют. разве нет.

К примеру, сложность относительна

цель определения понятия сложности также непонятна и туманна как и понятия информации.

Но если принять фактор относительности, то сложность одного объекта можно определять относительно другого объекта, а двух объектов - относительно третьего. Полученные сложности объектов уже можно сравнивать. Они ведь в одном базисе - в базисе наблюдателя!

видимо мы про разные относительности говорим.

если относительно опыта наблюдателя.. то у разных наблюдателей будет разный результат. разный прием. разная информация. при разных наблюдателях - будет разный базис. никакого абсолюта.

Информацию трактуют относительно словаря приёмника и более никак. У человека своя информация, у собаки своя

про это и говорю

Словари разные, а значит информацию собаки человек не может воспринять и тем более оценить её количество.

поэтому -
нельзя

Саму относительность возвести в абсолют

Разжевать?

пожалуйста..

При условии, что вы можите выдрать из потока эти самые нолики и единички


Это устройство приемника.. он в любом случае ВЫРВЕТ это.

Формальный базис {0,1} не фундаментален.

не согласен.

У нас все единицы изМЕРения относительны


естественно! мы меряем одно к другому. что эквивалентно нахождению отношения одного к другому.
любое измерение относительно.

А нетривиальность относительна тривиальности.


несмотря на очевидность этого выражения - ОНО НЕ ВЕРНО. ( в том смысле, что вы не сможете найти это отношение, его размер)
вы не сможете сказать насколько нетривиальная вещь сложнее тривиальной (найти их отношение).
пока вы не решите эту задачу.
Ну а после ее решения она уже станет для вас тривиальной.
и цель сравнения отпадет.

Пожалуйста Войти или Регистрация, чтобы присоединиться к беседе.

05 июль 2012 07:28 05 июль 2012 07:38 от Хмур.
Хмур
Модератор
Модератор
Сообщений: 3531
Больше
Миф теории информации #19338
max> все ведь знают, что физически времени нет.

? Скажем, Пригожину это было не известно.

Конечно, всем известно :) что этот пресловутый бозон Хиггса, по поводу которого учинили вселенский шум вчера, появляется как
скалярный матричный элемент эндоморфизма, относимого к хиггсовскому полю, в сумме с калибровочными потенциалами дающий супер-
связность Неемана-Куилена, и используется в геометризированных моделях физики высоких энергий. Тем не менее, понятие о времени
незыблемо как классический параметр в канонической квантовой механике и в общей теории изменяющихся сложных систем.

> Значит мощность канала можно выразить элементарно через общее количество принимающих элементов n.

Элементарности не будет, как только появится асинхронное действие детекторов.

C.>> Формальный базис {0,1} не фундаментален.
> не согласен.

Классическая логика С2 обладает некоторыми свойствами, которые придают ей выделенное положение, но с точки зр. металогики более принципиальна
не кратность значности оценок истинности, а свойства следования, алгебраические свойства и проч. Если хочется говорить о 'фундаментальности', то 'более' фундаментальными кажутся троичные системы.. есть же неразрешимые формулы..

Пожалуйста Войти или Регистрация, чтобы присоединиться к беседе.

05 июль 2012 09:47
covax
Матерый писатель
Матерый писатель
Сообщений: 661
Больше
Миф теории информации #19346

max пишет:

У нас все единицы измерения относительны


естественно! мы меряем одно к другому. что эквивалентно нахождению отношения одного к другому.
любое измерение относительно.

А нетривиальность относительна тривиальности.


несмотря на очевидность этого выражения - ОНО НЕ ВЕРНО. ( в том смысле, что вы не сможете найти это отношение, его размер)
вы не сможете сказать насколько нетривиальная вещь сложнее тривиальной (найти их отношение).


Вы сами себя опровергаете. см. выше.

Чтобы ранжировать тривиальности. Нужно найти их пространственные отношения в некотором опорном словаре. Это происходит эволюционным путём (адаптивно) по мере формирования словаря.
"В лоб" такие задачи, естественно, не решаются. Нужно накопить признаки этих нетривиальностей (именно, в одном базисе), а уже на основании отношения интегральных разнообразий признаков можно судить об отношении сложностей.

max пишет:

Формальный базис {0,1} не фундаментален.


не согласен.


Ну и зря! За символами {0,1} может стоять что угодно.
Это полярная абстракция. Но между полярностями всегда есть монотонный переход. А вот фундаментальнее монотонной непериодической функции вы уже ничего не придумаете.

max пишет:

Разжевать?

пожалуйста..



Время - мера инерционности взаимодействия.

Есть система А и система Б. Система А оказывает воздействие на Б неформализованным потоком (монотонная непериодическая функция). Допуская наличие N промежуточных систем-посредников взаимодействия в канале, можем аппроксимировать посредников каскадом из N фильтров НЧ k-го порядка. Еще раз. Фильтр k-го порядка - это суперпозиция фильтров 1-го порядка. Собственно, фильтр 1го порядка и есть элементарная инертность. Коэффициент фильтра К - это константа. Остаётся только одна величина, от которой зависит элементарный фильтр - это скорость передачи единицы энергии на расстояние в единицу структуры каскада (dx/dt). Получается, что инертность выражается через структуру и время. Если вынести время по одну сторону, то по другую останутся N и К, которые определяют состав инертной структуры канала связи.

В итоге, имеем определение времени зависимое от динамических потерь в структуре, то есть от инертности канала передачи.
Более того, без инертности невозможны адаптивные изменения (статистические накопления данных), а следовательно невозможна эволюция. Поэтому в определении времени именно инертность.
В некотором частном случае, можем прийти к формуле объектной скорости в пространстве S = U * t, которая не учитывает явным образом динамические потери в структуре пространства.

Кстати, на некотором уровне эволюции материи, отсутствие динамических потерь при перемещении энергии в структуре пространства, даёт возможность возникновению материальных объектов, как устойчивых (относительно) структур энергетических взаимодействий. Здесь хочу отметить, что объекты - не фундаментальная сущность материи. Как правило, многие теории опираются на объектность, в чем, собственно, их ошибка.


Считаю ваше недовольство по поводу определений информации, времени и тп. неуместным. Каждое определение - это отношение каких-то общепринятых символов. Любой общепринятый символ - это статистическая величина определённая в некотором инвариантном базисе (словаре). У человека инвариантный базис символов хранит социум. Тот же социум, прививает этот базис следующим поколениям. В то же время, каждое поколение или даже индивид, имеет шанс изменить статистическое представление символа. Вот я к примеру, ввёл инертность, как основу любого взаимодействия. Это вроде очевидно, но тем не менее, баланс смещён. Вы ведь не так себе представляли сущность времени? :)

Пожалуйста Войти или Регистрация, чтобы присоединиться к беседе.

05 июль 2012 10:56
max
Опытный писатель
Опытный писатель
Сообщений: 446
Больше
Миф теории информации #19352
Если все движение (изменение, активность) во вселенной исчезнет..
..
перестанут двигаться атомы и элементарные частицы...
..
капли дождя остановятся..

то не будет и времени..

Ваше определение времени интересно и потребуется время для его анализа..
..
я же предложу более короткое определение


ВРЕМЯ - это ИЗМЕНЕНИЕ.

все. конец определения.

В зависимости от выбора системы мер это определение будет конкретизироваться.

например 1 секунда СИ - расстояние (ИЗМЕНЕНИЕ координат) , которое пролетает фотон в в вакууме. (299 792 458 м)

или

9 192 631 770 периодам излучения, соответствующего переходу между двумя сверхтонкими уровнями основного состояния атома цезия-133

период - это фактически и есть переход (ИЗМЕНЕНИЕ) состояния атома. от Излучает до Не излучает.




!

Пожалуйста Войти или Регистрация, чтобы присоединиться к беседе.

05 июль 2012 13:46
aleksandr
Академик
Академик
Сообщений: 2802
Больше
Миф теории информации #19362

covax пишет: .................
Есть система А и система Б.............................


Нельзя ли поподробнее раскрыть это исходное положение?
Что это значит: "есть система А"?
Что такое это "есть"?

Пожалуйста Войти или Регистрация, чтобы присоединиться к беседе.

05 июль 2012 15:01
covax
Матерый писатель
Матерый писатель
Сообщений: 661
Больше
Миф теории информации #19367

max пишет: ВРЕМЯ - это ИЗМЕНЕНИЕ.

В зависимости от выбора системы мер это определение будет конкретизироваться.


Я согласен с вашим определением.
Но оно абстрактно. Непонятно, что такое изменение? Что лежит в его основе?
По сути, изменение подразумевает структурную адаптивную деформацию. Как завязать изменение на время и на структуру? Структура у вас выпадает.

Если вам не интересен адаптивный интеллект, то можно не углубляться в дебри.

Пожалуйста Войти или Регистрация, чтобы присоединиться к беседе.

05 июль 2012 15:19
covax
Матерый писатель
Матерый писатель
Сообщений: 661
Больше
Миф теории информации #19368

aleksandr пишет:

covax пишет: .................
Есть система А и система Б.............................


Нельзя ли поподробнее раскрыть это исходное положение?
Что это значит: "есть система А"?
Что такое это "есть"?


Допустим вы наблюдатель. "Есть система" - это когда наблюдатель может локализовать пространственное отношение признаков внеш.среды и абстрагировать их в символ (систему) при наличии словаря признаков (который у ЕИ формируется эволюционно). Всё это происходит при взаимодействии (передаче энергии) вн.среды и наблюдателя. А если среда не воздействует на наблюдателя то тот не может локализовать в среде признаки системы.
В самом простейшем случае (когда система ещё не структура или её структура не дифференцируема) то систему можно представить потенциалом поля, локализованным в точке пространства, опять же, относительно наблюдателя.

Пожалуйста Войти или Регистрация, чтобы присоединиться к беседе.

05 июль 2012 15:31 05 июль 2012 15:34 от vchc.
vchc
Модератор
Модератор
Сообщений: 333
Больше
Миф теории информации #19369

covax пишет:

max пишет: ВРЕМЯ - это ИЗМЕНЕНИЕ.

В зависимости от выбора системы мер это определение будет конкретизироваться.


Я согласен с вашим определением.
Но оно абстрактно. Непонятно, что такое изменение? Что лежит в его основе?
По сути, изменение подразумевает структурную адаптивную деформацию. Как завязать изменение на время и на структуру? Структура у вас выпадает.

Если вам не интересен адаптивный интеллект, то можно не углубляться в дебри.


Covax, вы же знаете, что в любой системе понятий должно быть невыводимое понятие. Это может быть ВРЕМЯ, ИЗМЕНЕНИЕ или ваша СТРУКТУРА. Важно тут то, что мы должны так перетасовать понятия и связи между ними, чтобы описание интересующего нас явления в новом понятийном базисе было максимально просто и однозначно.

Кстати как ваше понимание в области адаптивного интеллекта, продвинулось куда-то?

Пожалуйста Войти или Регистрация, чтобы присоединиться к беседе.

05 июль 2012 16:27
covax
Матерый писатель
Матерый писатель
Сообщений: 661
Больше
Миф теории информации #19370

vchc пишет: Covax, вы же знаете, что в любой системе понятий должно быть невыводимое понятие. Это может быть ВРЕМЯ, ИЗМЕНЕНИЕ или ваша СТРУКТУРА. Важно тут то, что мы должны так перетасовать понятия и связи между ними, чтобы описание интересующего нас явления в новом понятийном базисе было максимально просто и однозначно.


Правильно. Задача, дать более фундаментальное определение. Чем, собственно и занимаемся.

vchc пишет: Кстати как ваше понимание в области адаптивного интеллекта, продвинулось куда-то?


Теоретические изыскания я завершил полностью. Но хотелось бы представить хоть какую-то масштабную реализацию.
Доделываю программную модель демонстрирующую принципы адаптивного формирования нейро-выч. структуры в потоке реального времени. Пока это аудиопоток (для простоты), но мерность и физ.источник потока не важны, тк адаптивные преобразования инвариантны ( так же как в ЕИ).

Пожалуйста Войти или Регистрация, чтобы присоединиться к беседе.

05 июль 2012 16:38
slava
Старожил
Старожил
Сообщений: 1205
Больше
Миф теории информации #19372

covax пишет: Теоретические изыскания я завершил полностью. Но хотелось бы представить хоть какую-то масштабную реализацию.
Доделываю программную модель демонстрирующую принципы адаптивного формирования нейро-выч. структуры в потоке реального времени. Пока это аудиопоток (для простоты), но мерность и физ.источник потока не важны, тк адаптивные преобразования инвариантны ( так же как в ЕИ).


Звучит красиво.
А скажите, плз, не как, а что должно получиться в результате обработки акустического потока

Пожалуйста Войти или Регистрация, чтобы присоединиться к беседе.

05 июль 2012 17:46 05 июль 2012 17:50 от vchc.
vchc
Модератор
Модератор
Сообщений: 333
Больше
Миф теории информации #19377

covax пишет:
Правильно. Задача, дать более фундаментальное определение. Чем, собственно и занимаемся.


Ценность фундаментальных определений без фундаментальных теорий довольно сомнительна ) А теориями никто не спешит делиться. Впрочем это трудно. Стоит хотя бы обозначать зачем даётся определение. И что не устраивает в старых. Бытовое понимание информации вполне себе ничего, пока кто-нибудь не родит более конкретную теорию.

covax пишет: Теоретические изыскания я завершил полностью. Но хотелось бы представить хоть какую-то масштабную реализацию.
Доделываю программную модель демонстрирующую принципы адаптивного формирования нейро-выч. структуры в потоке реального времени. Пока это аудиопоток (для простоты), но мерность и физ.источник потока не важны, тк адаптивные преобразования инвариантны ( так же как в ЕИ).


Звучит ещё более заманчиво чем раньше. Когда же вы поборете свою природную скромность? )

Пожалуйста Войти или Регистрация, чтобы присоединиться к беседе.

06 июль 2012 05:29
YNK
Модератор
Модератор
Сообщений: 3509
Больше
Миф теории информации #19391
Докладчик называл 16 определений информации, но их явно больше:
Высказывания исследователей феномена информации .
Шеннон К., Берг А.И., Берлянт А.М., Бирюков Б.В., Бриллюэн Л., Вавилов С., Bинер Н., Вяткин В.Б., Добрушин Р.Л., Колин К.К.,
Колмогоров А.Н., Мазур М., Новик И.Б., Петрушенко Л.А., Седов Е., Урсул А.Д., Харкевич А.А., Шамбадаль П.

Пожалуйста Войти или Регистрация, чтобы присоединиться к беседе.

06 июль 2012 06:58 06 июль 2012 07:01 от covax.
covax
Матерый писатель
Матерый писатель
Сообщений: 661
Больше
Миф теории информации #19392

slava пишет: Звучит красиво.
А скажите, плз, не как, а что должно получиться в результате обработки акустического потока


Акустический поток - это скалярная функция времени. То есть, на вход выч. среды подаётся не вектор, а скаляр.
Задача статистически сформировать пространственную структуру, преобразующую вх.поток в вектор, состоящий из интегральных компонент дин. составляющих первоначального потока. На выходе выч. среды будет вектор готовых управляющих сигналов для исполнительных механизмов.

Если возникает вопрос - каким образом вектор управляющих сигналов, полученный из фиг знает какого потока, станет адекватно управлять устройством?
Отвечаю. Структура нейровычислителя (в т.ч биологического) строится адаптивно, а если принять во внимание ОС замкнутые через внеш. среду, которые возвращают часть выходного потока (с устройства) снова на вход выч. среды (рекурсия), то у выч. среды появляется возможность сконцентрироваться на адекватных (динамически предсказуемых) составляющих потока и строить на основе этого корректную управляющую структуру.
Среда формирует интеллект. Здесь интеллект, как структура, выполняет роль фильтра воздействий среды, часть энергии которых тратится на формирование его (фильтра) структуры.

vchc пишет: Когда же вы поборете свою природную скромность? )


Речь, по меньшей мере, об "Общей теории ЕИ", а это не стишок с табуретки прочитать! :)
В одну статью не впихнёшь. Надо как-то более масштабно готовиться. До конца года рожу что-нибудь.

Пожалуйста Войти или Регистрация, чтобы присоединиться к беседе.

06 июль 2012 07:07
Nemo
Опытный писатель
Опытный писатель
Сообщений: 400
Больше
Миф теории информации #19393

covax пишет: Информация - мера воздействия системы А на систему Б.
"Информация - мера воздействия системы А на систему Б". Иными словами, инф-я - мера адаптивных структурных изменений в рез-те взаимодействия.
Или. Информация - символьное (формальное) представление воздействия. Естественно, в контексте системы Б (приёмника).

Тут нюанс в том, что штампуя алюминиевую миску вы сообщаете ей дохрена информации изменяя структуру заготовки. Что то тут не то. В этом смысле определение Харкевича гораздо интереснее.
Или Колмогорова, тут правда у меня сомнение в том, что в основу положен алгоритм. В определении алгоритма обычно упоминается, что это "последовательность действий...... приводящая к решению задачи.... " Для живых организмов ( высокоорганизованных) характерно, что информация может быть получена, ощущается ее ценность , но задача в смысле достижения цели не решается, т.к. знаний или возможностей организма на текущий момент не достаточно. Потом задача будет решена с использованием этой информации ( и другой конечно). Так вот, в промежутке от получения первоначальных данных до решения задачи информация по Колмогорову есть или нет? Ведь алгоритма решения нет( т.е. преобразования множества исходных данных в итоговое множество - напр. движений )
И опять по Колмогорову - штампуя миску множество точек листа переходит в другое множество точек миски. Хотя это преобразование простое и может быть описано простой программой.Но , ИМХО, вообще не правильно говорить о информации в случае изготовления миски. Информация для человека или живых организмов это нечто другое. Видимо это и пытался не совсем удачно донести автор доклада.
Или уж пусть информация остается такой как есть , а для И систем ввести новый термин?
Назвать его - смысл? Но то что вкладывается в смысл ru.wikipedia.org/wiki/%D0%A1%D0%BC%D1%8B%D1%81%D0%BB не внушает оптимизма в техническом плане.
О!
Информация для активных систем - это воспринимаемые системой события , которые изменяют внутреннюю модель мира системы.
Количество информации определяется тем насколько сильно изменилась длинна (сложность) программы модели мира.
В активных системах ( читай- живых) программы модели мира стремятся к минимизации ( т.е. сами иногда минимизируются - это когда новую теорию "всего" удается создать, хоть про вселенную, хоть про то как отличить по мимике доброго человека от злого). Процесс такой минимизации и есть порождение новой информации о мире - открытие в широком смысле слова.

Т.к. все придумано до нас , то просьба ткнуть носом в предшественников.

А звук заметно лучше, всех нормально слышно, спасибо.

Пожалуйста Войти или Регистрация, чтобы присоединиться к беседе.

06 июль 2012 08:17
Inex
Модератор
Модератор
Сообщений: 1249
Больше
Миф теории информации #19399

YNK пишет: Высказывания исследователей феномена информации .

интересно, а Вяткину кто-нибудь говорил, что его "универсальное информационное уравнение" - суть принцип МДО?

Пожалуйста Войти или Регистрация, чтобы присоединиться к беседе.

06 июль 2012 19:26
slava
Старожил
Старожил
Сообщений: 1205
Больше
Миф теории информации #19427

covax пишет: Акустический поток - это скалярная функция времени. То есть, на вход выч. среды подаётся не вектор, а скаляр.
Задача статистически сформировать пространственную структуру, преобразующую вх.поток в вектор, состоящий из интегральных компонент дин. составляющих первоначального потока. На выходе выч. среды будет вектор готовых управляющих сигналов для исполнительных механизмов.


Пока смутно представляю, о чем вы говорите. Скажем, фурье-анализатор, вроде бы, вполне этому соответствует. Есть куча и иных разложений. Есть какие-то вам известные исполнительные механизмы-эффекторы. Тут возникает вопрос о том, как перекодировать результаты анализа в правильное управление. А оно, в свою очередь, зависит от целей управления. И кто их задает?
Если анализатор не задан априорно, а формируется динамически из каких-то первичных сенсоров, то и в этом случае вопрос о целях является определяющим.

Если возникает вопрос - каким образом вектор управляющих сигналов, полученный из фиг знает какого потока, станет адекватно управлять устройством?
Отвечаю. Структура нейровычислителя (в т.ч биологического) строится адаптивно, а если принять во внимание ОС замкнутые через внеш. среду, которые возвращают часть выходного потока (с устройства) снова на вход выч. среды (рекурсия), то у выч. среды появляется возможность сконцентрироваться на адекватных (динамически предсказуемых) составляющих потока и строить на основе этого корректную управляющую структуру.
Среда формирует интеллект. Здесь интеллект, как структура, выполняет роль фильтра воздействий среды, часть энергии которых тратится на формирование его (фильтра) структуры.


Ну да, но опять это все может заработать, когда есть какие-то явно обозначенные цели. Жизнь и эволюцию вы, похоже рассматривать не хотите. Тогда - что вместо них?

Речь, по меньшей мере, об "Общей теории ЕИ", а это не стишок с табуретки прочитать! :)
В одну статью не впихнёшь. Надо как-то более масштабно готовиться. До конца года рожу что-нибудь.

А это вот - правильно. Цели должны быть серьезными. Интересно

Пожалуйста Войти или Регистрация, чтобы присоединиться к беседе.

07 июль 2012 04:29
covax
Матерый писатель
Матерый писатель
Сообщений: 661
Больше
Миф теории информации #19438

slava пишет: Пока смутно представляю, о чем вы говорите. Скажем, фурье-анализатор, вроде бы, вполне этому соответствует.


Да, правильно. Я разврачиваю ПФ-интеграл в структуре для нормализации вх.потока. Потом диф-ю дин.активность и интегрирую (абстрагирую) в суперпозиции дабы сформировать локальное пространство решений. А таких пространств решений может быть миллион.

slava пишет: Тут возникает вопрос о том, как перекодировать результаты анализа в правильное управление.

Исп. механизм - это всего лишь дополнительная инертность среды (относительно выч.среды). Среда просто адаптивно подстраивается под эту инертность, заодно формируя правильное (относительно) управление.

slava пишет: А оно, в свою очередь, зависит от целей управления. И кто их задает?


А кто задаёт цели для нашего мозга? Ребёнок, например, не может понимать цели формулируемые взрослым человеком. Ребёнок считывает динамику среды, по ней и формирует базис восприятия. С возрастом базис восприятия ребёнка начинает частично совпадать со взрослым базисом. Наступает понимание уже на более высоком формальном уровне. Ребёнок концентрируется на объектах, выделяет звуки речи, распознаёт эмоции родителей.
Высшие цели управления накаливаются каскадно в структуре, но сама структура этого не знает, в ней действуют фундаментально простые и однородные правила структурообразования и всё.

slava пишет: Если анализатор не задан априорно, а формируется динамически из каких-то первичных сенсоров, то и в этом случае вопрос о целях является определяющим.


У структуры нейровычислителя одна цель - структурообразования. Высшие цели решаются каскадами, иерархией, неоднородностями этой адаптивно-растущей структуры.

slava пишет: Ну да, но опять это все может заработать, когда есть какие-то явно обозначенные цели. Жизнь и эволюцию вы, похоже рассматривать не хотите. Тогда - что вместо них?


Я полагаюсь именно на инвариантные эволюционные принципы. Они инвариантны потому, что работают для любого вида материи с явным гомеостазом или ещё без него. Эволюционная тенденция однообразна по функционалу и высших целей у неё нет. Но это нужно ещё осознать.

Пожалуйста Войти или Регистрация, чтобы присоединиться к беседе.

07 июль 2012 16:57
slava
Старожил
Старожил
Сообщений: 1205
Больше
Миф теории информации #19457

covax пишет:

slava пишет: Пока смутно представляю, о чем вы говорите. Скажем, фурье-анализатор, вроде бы, вполне этому соответствует.


Да, правильно. Я разврачиваю ПФ-интеграл в структуре для нормализации вх.потока. Потом диф-ю дин.активность и интегрирую (абстрагирую) в суперпозиции дабы сформировать локальное пространство решений. А таких пространств решений может быть миллион.


Загадочный текст и куча гипотез
Например - "ПФ-интеграл..." это - что-то вроде набора полосовых фильтров, формирующих первичные описания анализируемого потока или нечто совсем иное
"Дифференцируете динамическую активность" - судя по всему - тех первичных описаний.
Скажите, это - что-то типа фонетической функции Пирогова, разрабатывавшейся им специально для анализа акустических сигналов?
Затем, похоже, над этим как-то формируете решения
Но, какие решения? кто и как их определяет и оценивает?

slava пишет: Тут возникает вопрос о том, как перекодировать результаты анализа в правильное управление.

Исп. механизм - это всего лишь дополнительная инертность среды (относительно выч.среды). Среда просто адаптивно подстраивается под эту инертность, заодно формируя правильное (относительно) управление.


Еще одна серия загадок
Вполне можно представить ситуации, когда исполнительные механизмы являются частью внешней среды, но тогда их инерционность - не дополнительная, а просто одна из частей той инерционности
Очень сложно разбираться в этом без хотя бы скромных намеков на скуть решаемой проблемы

slava пишет: А оно, в свою очередь, зависит от целей управления. И кто их задает?


А кто задаёт цели для нашего мозга? Ребёнок, например, не может понимать цели формулируемые взрослым человеком. Ребёнок считывает динамику среды, по ней и формирует базис восприятия. С возрастом базис восприятия ребёнка начинает частично совпадать со взрослым базисом. Наступает понимание уже на более высоком формальном уровне. Ребёнок концентрируется на объектах, выделяет звуки речи, распознаёт эмоции родителей.
Высшие цели управления накаливаются каскадно в структуре, но сама структура этого не знает, в ней действуют фундаментально простые и однородные правила структурообразования и всё.


Цели для нашего мозга биологически и социо-культурно обусловлены
Если что-то такое предполагается и в разрабатываемой вами системе, было бы интересно об этом хоть пару слов услышать

slava пишет: Если анализатор не задан априорно, а формируется динамически из каких-то первичных сенсоров, то и в этом случае вопрос о целях является определяющим.


У структуры нейровычислителя одна цель - структурообразования. Высшие цели решаются каскадами, иерархией, неоднородностями этой адаптивно-растущей структуры.


Правильно ли я вас понимаю, что речь идет всего лишь о неком модуле нейровычислителя, работа которого управляется неведомыми ему целями, критериями и оценками его действий

slava пишет: Ну да, но опять это все может заработать, когда есть какие-то явно обозначенные цели. Жизнь и эволюцию вы, похоже рассматривать не хотите. Тогда - что вместо них?


Я полагаюсь именно на инвариантные эволюционные принципы. Они инвариантны потому, что работают для любого вида материи с явным гомеостазом или ещё без него. Эволюционная тенденция однообразна по функционалу и высших целей у неё нет. Но это нужно ещё осознать.


Эволюционные принципы универсально работают в условиях оптимизации какого-то вида функционалов.
По большому счету воспроизвести эволюцию в чем-то не игрушечном реальных возможностей нет
Поэтому речь может идти лишь о какой-то ограниченной задаче с чертами эволюционности
Хотелось бы и об этом тоже несколько слов услышать
Если можно, конечно

Пожалуйста Войти или Регистрация, чтобы присоединиться к беседе.

08 июль 2012 06:48
covax
Матерый писатель
Матерый писатель
Сообщений: 661
Больше
Миф теории информации #19460

slava пишет: Загадочный текст и куча гипотез
Например - "ПФ-интеграл..." это - что-то вроде набора полосовых фильтров, формирующих первичные описания анализируемого потока или нечто совсем иное


Интеграл Фурье разворачивается структурно (в каскад), чтобы корректно вычислять спектр. БПФ явно не подходит для непериодических гармонических функций.

slava пишет: "Дифференцируете динамическую активность" - судя по всему - тех первичных описаний.


Вообще смысл в многократном дифференцировании и интегрировании по мере роста структуры. Дифференцирование решает вопрос структурообразования, интегрирование позволяет абстрагировать (обобщать) локальные решения.

slava пишет: Скажите, это - что-то типа фонетической функции Пирогова, разрабатывавшейся им специально для анализа акустических сигналов?


Не знаком с Пироговым. Судя по текстам в инете Пирогов искал эвристики для анализа речи. У меня эти эвристики образуются эволюционно из живого потока. Поэтому формально они всегда согласованы и настроены в системе и их не нужно специально искать, нормировать и внедрять. Привет Инексу, он скоро об это споткнётся :)

slava пишет: Затем, похоже, над этим как-то формируете решения
Но, какие решения? кто и как их определяет и оценивает?


Для понимания дам вот такой примерчик характеристик двух полярных выч. парадигм, так сказать, "палка о двух концах":
* Последовательная алгоритмика = Последовательные вычисления + разнородный функционал + параметрическая адаптация + уникальные целевые функции в узлах структуры алгоритма + глобальная оптимизация.
* Параллельная алгоритмика = Параллельные вычисления + однородный функционал + структурная адаптация + локальные и однотипные целевые функции по структуре + локальная оптимизация.

Переходя в область параллельных вычислений отпадает куча проблем связанных с последовательными вычислениями. Одна из самых сложных проблем - формализация целевой функции.
В параллельных вычислениях этой проблемы нет. Поэтому, задач определения и оценивания решений принципиально не существует. т.к нет отдельного решателя (процессора), чью работу нужно контроллировать/оптимизировать в отношении всего алгоритма.
Структура параллельных вычислений инертна. Именно поэтому в ней возникают неоднородности в нужных местах. А неоднородности формируют управляющие потоки. Управляющие потоки решают внешние задачи. Сведения о решении задач поступают снова на вход. Структура неоднородностей меняется. Меняются управляющие потоки и всё это повторяется многократно. Получается рекуррентный процесс с локальной оптимизацией.

slava пишет: Еще одна серия загадок
Вполне можно представить ситуации, когда исполнительные механизмы являются частью внешней среды, но тогда их инерционность - не дополнительная, а просто одна из частей той инерционности
Очень сложно разбираться в этом без хотя бы скромных намеков на скуть решаемой проблемы


Нейросеть динамически согласована. Если замкнуть её на среду (сенсоры + внеш.среда + исп.механизмы), то сеть начнёт искать закономерности и пытаться рекурсивно согласовать (динамически) свои вход и выход. Честно говоря, плевать какие исп.механизмы, главное чтобы они адекватно управлялись нормализованным потоком из сети. Сеть сама подгонит мощность упр.потока под конкретный адекватный (с внешней стороны) функционал.

slava пишет: Цели для нашего мозга биологически и социо-культурно обусловлены
Если что-то такое предполагается и в разрабатываемой вами системе, было бы интересно об этом хоть пару слов услышать


Нейроны мозга не знают о социокультурном аспекте наших целей. Мозг принимает деформализованный поток от сенсоров и не более того.
Навязать извне какие-то формальные цели системе невозможно. Это чужеродный формализм. Система его не поймёт. Формализмы прививаются через обучение, т.е в гладких условиях.

slava пишет: Правильно ли я вас понимаю, что речь идет всего лишь о неком модуле нейровычислителя, работа которого управляется неведомыми ему целями, критериями и оценками его действий


Сейчас я собираю часть нейровычислителя, которая выполняет первичные функции (нормализации потока) восприятия и простейшую адаптацию. Мышления здесь не возникнет. Это прямоточный мозг, как у червей или слизняков.

slava пишет: Эволюционные принципы универсально работают в условиях оптимизации какого-то вида функционалов.
По большому счету воспроизвести эволюцию в чем-то не игрушечном реальных возможностей нет
Поэтому речь может идти лишь о какой-то ограниченной задаче с чертами эволюционности


На самом деле, сложнее не смоделировать виртуальную эволюцию, а очистить её модель от эволюции реальной.
В нейровычислениях не нужно воспроизводить весь ход эволюции, достаточно воспользоваться некоторым системным базисом (начальными условиями) и парой адаптивных принципов. Цель, всего лишь, в переформировании выч. структуры и не более. Естественно, что задача виртуальной эволюции, в этом случае, ограничена.

Пожалуйста Войти или Регистрация, чтобы присоединиться к беседе.

08 июль 2012 11:33 08 июль 2012 11:37 от slava.
slava
Старожил
Старожил
Сообщений: 1205
Больше
Миф теории информации #19467

covax пишет: Интеграл Фурье разворачивается структурно (в каскад), чтобы корректно вычислять спектр. БПФ явно не подходит для непериодических гармонических функций.


Фурье - не панацея. Есть много способов разложения сигналов. Я, например, в свое время использовал "балансный анализ". Вопрос - в адекватности решаемой задаче. Вы, похоже, ориентируетесь на схему слухового восприятия. Но оно идет в связке со всем остальным, а вы этот момент как-то обходите

Вообще смысл в многократном дифференцировании и интегрировании по мере роста структуры. Дифференцирование решает вопрос структурообразования, интегрирование позволяет абстрагировать (обобщать) локальные решения.


Смущало по-началу использование этих терминов. Теперь, кажется, понимаю, что дифференцирование и интегрирование для вас - различение и сборка-интеграция

Не знаком с Пироговым. Судя по текстам в инете Пирогов искал эвристики для анализа речи. У меня эти эвристики образуются эволюционно из живого потока. Поэтому формально они всегда согласованы и настроены в системе и их не нужно специально искать, нормировать и внедрять. Привет Инексу, он скоро об это споткнётся :)


У него они тоже эволюционно формировались в процессе решения речевой задачи. А вот вы, кажется, как-то без этого хотите обойтись. Меня это сильно смущает. Кроме того, эвристики хорошо работают в знакомых ситуациях. И поэтому ваше предположение, что "они всегда согласованы и настроены в системе и их не нужно специально искать, нормировать и внедрять" вызывает некоторые сомнения
Что же касается приветов, то лучше вы это сделайте сами, - от вас Инекс это лучше примет

Для понимания дам вот такой примерчик характеристик двух полярных выч. парадигм, так сказать, "палка о двух концах":
* Последовательная алгоритмика = Последовательные вычисления + разнородный функционал + параметрическая адаптация + уникальные целевые функции в узлах структуры алгоритма + глобальная оптимизация.
* Параллельная алгоритмика = Параллельные вычисления + однородный функционал + структурная адаптация + локальные и однотипные целевые функции по структуре + локальная оптимизация.


Здесь, как я понимаю, дело не в последовательном или параллельном вычислительных процессах, а в том, что и как по сути вы хотите получить. Если это - что-то параллельное по сути, то его и нужно реализовать, используя, в частности последовательные возможности.

Переходя в область параллельных вычислений отпадает куча проблем связанных с последовательными вычислениями. Одна из самых сложных проблем - формализация целевой функции.
В параллельных вычислениях этой проблемы нет. Поэтому, задач определения и оценивания решений принципиально не существует. т.к нет отдельного решателя (процессора), чью работу нужно контроллировать/оптимизировать в отношении всего алгоритма.


Мне кажется, тут вы выдаете желаемое за действительное. Без целей и оценивания близости к ним ваша система будет что-то делать, но делание это будет бесцельным и бессмысленным в конце-концов
Я понимаю, что что-то такое вы прячете в структурообразование, но и там вам без глобально разумных критериев не обойтись. А они неразрывно связаны все с теми же задачами

Структура параллельных вычислений инертна. Именно поэтому в ней возникают неоднородности в нужных местах. А неоднородности формируют управляющие потоки. Управляющие потоки решают внешние задачи. Сведения о решении задач поступают снова на вход. Структура неоднородностей меняется. Меняются управляющие потоки и всё это повторяется многократно. Получается рекуррентный процесс с локальной оптимизацией.


Ну да, такой калейдоскоп получается. Кто-то сверху может в этом и что-то полезное и интересное разглядеть. А не проще ли в таком случае тому, кто сверху, иметь дело просто с шумом и открывать в нем, следуя Эшби, всю мировую премудрость

Нейросеть динамически согласована. Если замкнуть её на среду (сенсоры + внеш.среда + исп.механизмы), то сеть начнёт искать закономерности и пытаться рекурсивно согласовать (динамически) свои вход и выход. Честно говоря, плевать какие исп.механизмы, главное чтобы они адекватно управлялись нормализованным потоком из сети. Сеть сама подгонит мощность упр.потока под конкретный адекватный (с внешней стороны) функционал.


Чем-то похожим и здесь увлекаются. Но скажите, зачем внешней среде возиться с этой сетью, испытывая ее капризы, если внятных целей такого взаимодействия нет, гарантий успеха нет, а сил и времени и потерь в исполнении рискованных и не относящихся к делу рекомендаций - не счесть?

slava пишет: Цели для нашего мозга биологически и социо-культурно обусловлены
Если что-то такое предполагается и в разрабатываемой вами системе, было бы интересно об этом хоть пару слов услышать


Нейроны мозга не знают о социокультурном аспекте наших целей. Мозг принимает деформализованный поток от сенсоров и не более того.
Навязать извне какие-то формальные цели системе невозможно. Это чужеродный формализм. Система его не поймёт. Формализмы прививаются через обучение, т.е в гладких условиях.


Конечно, обучение средой - весьма действенный формализм
Но если обучение столь явно предполагается, то тогда сразу же возникают еще и вопросы о том, как и чему обучать

slava пишет: Правильно ли я вас понимаю, что речь идет всего лишь о неком модуле нейровычислителя, работа которого управляется неведомыми ему целями, критериями и оценками его действий


Сейчас я собираю часть нейровычислителя, которая выполняет первичные функции (нормализации потока) восприятия и простейшую адаптацию. Мышления здесь не возникнет. Это прямоточный мозг, как у червей или слизняков.


Если правильно понимаю, взывая к остаткам памяти в биологии и зоологии, у червей - прямоточный пищеварительный тракт. Хорошее и глубокое сопоставление с интеллектом. Думаю, многим здесь это сильно не понравится. Кстати, у человека - так сказать, вершины интеллектуальности - все точно так же обстоит. Эту глубокую мысль я почерпнул в свое время в замечательной книжке "Физики шутят"

На самом деле, сложнее не смоделировать виртуальную эволюцию, а очистить её модель от эволюции реальной.


Когда вы что-то моделируете, хотите вы того или нет, вы отделяете существенное от несущественного

В нейровычислениях не нужно воспроизводить весь ход эволюции, достаточно воспользоваться некоторым системным базисом (начальными условиями) и парой адаптивных принципов. Цель, всего лишь, в переформировании выч. структуры и не более. Естественно, что задача виртуальной эволюции, в этом случае, ограничена.


Ну да, но при этом нужно выбрать тип сети, те самые принципы, цели и критерии, источники данных и ресурсы, дающие хоть какую-то гарантию того, что ваши замыслы в такой конструкции будут реализованы хоть в какой-то мере хоть за какое-то приемлемое время
Реальные задачи обычно во все это вносят существенные коррективы
Поэтому и интересно, действительно ли вы собираетесь именно так реализовать речевую систему

Пожалуйста Войти или Регистрация, чтобы присоединиться к беседе.

09 июль 2012 09:27
covax
Матерый писатель
Матерый писатель
Сообщений: 661
Больше
Миф теории информации #19473

slava пишет: Мне кажется, тут вы выдаете желаемое за действительное. Без целей и оценивания близости к ним ваша система будет что-то делать, но делание это будет бесцельным и бессмысленным в конце-концов
Я понимаю, что что-то такое вы прячете в структурообразование, но и там вам без глобально разумных критериев не обойтись. А они неразрывно связаны все с теми же задачами


Очевидно, что вы меня не понимаете и это нормально. Поэтому не устану повторять.
Глобальные задачи деформализуются в базисе накопленного опыта (инвариантно) в параллельный пространственный поток, локально вычисляются и снова формализуются в последовательные управляющие воздействия. Внутренние цели системы формируются на основе опыта. Чем больше опыта, тем абстрактнее могут быть цели.

slava пишет: А не проще ли в таком случае тому, кто сверху, иметь дело просто с шумом и открывать в нем, следуя Эшби, всю мировую премудрость


Шум - это не выявленная информация в потоке взаимодействий. Но это не значит, что в потоке информации нет. Поэтому всегда есть возможность внедриться во взаимодействие со средой и статистически выявить, достаточные для собственного развития, закономерности. Именно так выявлены системы измерений, именно так человек может познавать и развиваться.
Я не создаю инструмент для того кто сверху. Задача - создать инвариантный ЕИ искусственно, чтобы он полностью был автономен и подобен естественному биологическому.

slava пишет: Но скажите, зачем внешней среде возиться с этой сетью, испытывая ее капризы, если внятных целей такого взаимодействия нет, гарантий успеха нет, а сил и времени и потерь в исполнении рискованных и не относящихся к делу рекомендаций - не счесть?


А зачем мать возится со своим ребёнком, испытывая его капризы, если внятных целей такого взаимодействия нет, гарантий успеха нет (и далее по вашему тексту выше)......?
Затем вОзится, что выживание вида предопределено эволюционно, следовательно часть энергии матери (как внеш.среды) придётся отдать новорождённой системе на её обучение и социализацию.
Аналогично, любой учёный не бросает свои поделки ровно до того момента, когда не посчитает что они безнадёжно мертвы.
Все цели определяются воспитателем (средой). Чему научит среда, то и будет вычислять вычислитель. Человек разве как-то иначе функционирует?

slava пишет: Ну да, но при этом нужно выбрать тип сети.


Тип сети - единственно возможный для ЕИ. Здесь трудно промахнуться. Это абсолют.

slava пишет: , те самые принципы, цели и критерии, источники данных и ресурсы, дающие хоть какую-то гарантию того, что ваши замыслы в такой конструкции будут реализованы хоть в какой-то мере хоть за какое-то приемлемое время


Вы о том, какие гарантии даю я на то, что у меня что-то получится? :)

slava пишет: Реальные задачи обычно во все это вносят существенные коррективы
Поэтому и интересно, действительно ли вы собираетесь именно так реализовать речевую систему


Это не речевая система. Я беру аудиопток потому, что он маломерен и прост для анализа в реальном времени.
Получу адаптивное развитие структуры, на этом вопрос будет закрыт. Далее, встанет вопрос о смене выч. архитектур. Фон-Нейман явно слаб для параллельных нейровычислений.

Пожалуйста Войти или Регистрация, чтобы присоединиться к беседе.

09 июль 2012 15:45
Хмур
Модератор
Модератор
Сообщений: 3531
Больше
Миф теории информации #19485
Многое, что говорит Ковакс, более-менее 'понятно'.

хочется сделать разве что пару-тройку замечаний.

> Информация - мера воздействия системы А на систему Б.

Такое определение кажется сомнительным, мера воздействия - это ИЗМЕНЕНИЕ параметров движения (характеристических параметров
характеристического движения системы), типа классического ускорения. Само по себе изменение параметров 'информационного'
движения, напр. скорости обучения, обучаемости, это мера воздействия, скажем учительского, но не 'информация' per se.

'Информация' СВЯЗАННА со взаимодействием (воздействием), особенно когда энерго-силовые параметры его становятся малыми по
сравнению с эффектами, но более определяется структурой этих самых инициированных воздействием процессов в системе Б.

В самом общем виде: информация - это мера, степень неоднородности. Когда однородность нарушается, когда в хаозисе появляется
форма, тогда становится возможным говорить о формообразовании, морфогенезисе, самоорганизации структур,- бишь об ин-форма-ции..

> Мерой воздействия можно считать степень деформации структуры системы Б

В этом смысле говорят о МАКРОинформации, СЛЕДЕ в структуре (в памяти, в структуре в функции памяти). Когда время жизни следов
мало (по сравнению со временен воздействия), то говорят о микроинформации, несохранении макроинформационных следов.

> Информацию трактуют относительно словаря приёмника и более никак. У человека своя информация, у собаки своя. Словари разные,
> а значит информацию собаки человек не может воспринять и тем более оценить её количество.

Как иллюстрация. Да, вот собака что-то видит и что-то свое 'думает' (обработка образов, паттернов). И возникает наш общий вопрос -
а можно ли апроксимировать этот процессинг 'символьно', чтобы сказать, что обработка собачьей информации алгоритмизируема (в тер-
минах воспринимающего сознания, другого базиса)? Кажется, что тут дело в ОТНОСИТЕЛЬНЫХ и СООТНОСИТЕЛЬНЫХ оценках УСТОЙЧИВОСТИ
этих внутренних состояний, которые реализуют обработку информации. Если устойчивость ДОСТАТОЧНА, то говорим о твари как без-
душном автомате, если устойчивость мала (высок хаотический компонент), то говорим о душе, свободе воли, неалгоритмичности..

Но по любому, ОЦЕНИТЬ 'собачью информацию' всегда как-то можно. Ну, учтем остроту нюха, инстинктивный базис, хозяйские трюки,
щенячью игру, жизненный опыт, экологическую историю вида.. Чего-то больше нашего, чего-то меньше..


> все единицы измерения относительны. Попробуйте найти абсолютную.
> Определений, аксиом и теорем тоже нет абсолютных,

Как бы да.. Но стандарт измерения относительно чего? относительно самого себя, в этом смысле абсолютен.. типа стандартная частота атомных или ядерных колебаний.. или абсолютные координаты во вселенной - относительно пульсаров.. тут отдельная ситуация с изменением соотношений между самими стандартами, типа вариации постоянной тонкой структуры.. тут проблематика размерности конти-
ниума, калибровочной инвариантности и проч..

Определения по определению абсолютны для данной системы определений, меняем определения, меняем систему. Что нет абсолютных фор-
мальных систем (нерасширяемых) является абсолютной метааксиомой.. :)

> фундаментальнее монотонной непериодической функции

Не понятно, почему гармоническому ортогональному базису отказали в фундаментальности (аналитической).

> Система А оказывает воздействие на Б неформализованным потоком (монотонная непериодическая функция).

Фундаментальность в смысле солитоноподобных решений в нелинейной физике.. (Хотя Ковакс апеллирует к Габору, вайвлетам и т.п.
в дискретной обработке сигналов)

> Высшие цели управления накаливаются каскадно в структуре,

Всё это требует очень аккуратного описания. Как именно базовые механизмы т.ск. скрытого самообучения (типа автоматической
кластеризации, первичной классификации) порождают базис для запуска механизмов обучения с учителем, направленного извне
обобщения и конкретизации и как затем формируется (созревает) механизм самообучения, включаются механизмы скрытой аутоопти-
мизации, сворачивания больших информационных структур, формирования наборов метаправил по оперированию метаструктурами..

> Формализмы прививаются через обучение, т.е в гладких условиях.

Неизбежны крупномасштабные каскадные перестройки структуры, возможно, что расширение функционала происходит и как смещение
функции (изменение режима осуществления на измененной структуре), и как 'поломка' функции, и как функционализация косвенного
эффекта аккомодационной перестройки.. типа, что внешние правила нетривиально взаимодействуют со внутренними нормами..

> par

очень правильно. Можно тянуть в сторону самоорганизующихся распределенных вычислений, самосинхронизирущейся нейросхемотехники,
асинхронных коллективов автоматов, динамической иерархизации вычислительной среды (вычэлементы могут получать дополнительную
маркировку для оперативного формирования функциональных 'констелляций' - вопрос в инфраструктуре) etc.

Пожалуйста Войти или Регистрация, чтобы присоединиться к беседе.

10 июль 2012 14:02
covax
Матерый писатель
Матерый писатель
Сообщений: 661
Больше
Миф теории информации #19511

Хмур пишет:

Информация - мера воздействия системы А на систему Б.


Такое определение кажется сомнительным, мера воздействия - это ИЗМЕНЕНИЕ параметров движения (характеристических параметров
характеристического движения системы), типа классического ускорения.


Понятие "мера" подразумевает любое отношение структурных состояний и динамику изменений в диапазоне, и все +k производные (в т.ч ускорение).
Кстати, движение (в любом смысле) это уже есть изменение.

Хмур пишет: Само по себе изменение параметров 'информационного'
движения, напр. скорости обучения, обучаемости, это мера воздействия, скажем учительского, но не 'информация' per se.


Любое воздействие приводит к структурным изменениям. Если в голове ученика что-то фиксируется, значит структура (ученика или его мозга) изменена.
Остаётся только измерить структурные изменения интегрально.

Можно перефразировать определение вытащив на поверхность то, что подразумевается неявно. А именно структурные изменения, которые мы меряем.

Информация - мера структурных изменений системы, произошедших в результате внешнего воздействия.

Остаётся только обобщить структурные замеры в контексте самой структуры. То есть, формализм инф.потока полностью зависит от структуры системы, деформацию которой мы замеряем.

Хмур пишет: 'Информация' СВЯЗАННА со взаимодействием (воздействием), особенно когда энерго-силовые параметры его становятся малыми по
сравнению с эффектами, но более определяется структурой этих самых инициированных воздействием процессов в системе Б.
В самом общем виде: информация - это мера, степень неоднородности. Когда однородность нарушается, когда в хаозисе появляется
форма, тогда становится возможным говорить о формообразовании, морфогенезисе, самоорганизации структур,- бишь об ин-форма-ции..

Об этом и речь.

Хмур пишет:

Мерой воздействия можно считать степень деформации структуры системы Б

В этом смысле говорят о МАКРОинформации, СЛЕДЕ в структуре (в памяти, в структуре в функции памяти). Когда время жизни следов
мало (по сравнению со временен воздействия), то говорят о микроинформации, несохранении макроинформационных следов.


Верно. Но это уже относится больше к времени дифференцирования. Чем меньше время, тем детальнее информация о изменениях.

Хмур пишет:

Информацию трактуют относительно словаря приёмника и более никак. У человека своя информация, у собаки своя. Словари разные,
а значит информацию собаки человек не может воспринять и тем более оценить её количество.


Как иллюстрация. Да, вот собака что-то видит и что-то свое 'думает' (обработка образов, паттернов). И возникает наш общий вопрос -
а можно ли апроксимировать этот процессинг 'символьно', чтобы сказать, что обработка собачьей информации алгоритмизируема (в тер-
минах воспринимающего сознания, другого базиса)? Кажется, что тут дело в ОТНОСИТЕЛЬНЫХ и СООТНОСИТЕЛЬНЫХ оценках УСТОЙЧИВОСТИ
этих внутренних состояний, которые реализуют обработку информации. Если устойчивость ДОСТАТОЧНА, то говорим о твари как без-
душном автомате, если устойчивость мала (высок хаотический компонент), то говорим о душе, свободе воли, неалгоритмичности..


Добавлю.
Проблема здесь не только в собаке. Проблема в инертности оценивающей системы. Отсюда может появиться ошибочное ощущение устойчивости.
Если наш измеритель инертен, то хаотическую составляющую невозможно дифференцировать, а следовательно и извлечь инф.смысл из потока с высокой плотностью изменений (который кажется хаосом).

Хмур пишет:

все единицы измерения относительны. Попробуйте найти абсолютную.
Определений, аксиом и теорем тоже нет абсолютных,


Как бы да.. Но стандарт измерения относительно чего? относительно самого себя, в этом смысле абсолютен.. типа стандартная частота атомных или ядерных колебаний.. или абсолютные координаты во вселенной - относительно пульсаров.. тут отдельная ситуация с изменением соотношений между самими стандартами, типа вариации постоянной тонкой структуры.. тут проблематика размерности конти-
ниума, калибровочной инвариантности и проч..


Вот только не относительно самого себя. А относительно более устойчивого (более инертного) феномена как базового уровня. Именно более инертного! То есть, познавая мы детализируем мир, опираясь на более грубую статистику и уточняя её.

Хмур пишет:

фундаментальнее монотонной непериодической функции


Не понятно, почему гармоническому ортогональному базису отказали в фундаментальности (аналитической).


Да потому, что это комплекс ещё более простых функций гармоник. А гармонику можно представить огибающей по амплитуде, которая сведётся к монотонной непериодической функции.

Пожалуйста Войти или Регистрация, чтобы присоединиться к беседе.

10 июль 2012 15:30
Хмур
Модератор
Модератор
Сообщений: 3531
Больше
Миф теории информации #19518
Ковакс> движение (в любом смысле) это уже есть изменение.

Речь шла об изменении ПАРАМЕТРОВ движения, об операциональном понимании, а не о движении-как-изменении-вообще. Тут как бы разные
логические уровни разговора, которые не нужно смешивать. Может меняться тип движения, движение может СОХРАНЯТЬ свою качественную
определенность (тип), но изменять параметры своих количественных определенностей (описаний).

Ваше уточненное определение более адекватно. Оно родственно Винеровскому пониманию информации ('структурному') cупротив Шеннонов-
ского ('статистического'), Колмогоровского, алгебраического и др.

Cтруктурное понимание более макроинформационно, шенноновское - микроинформационно. Динамическое понимание (по Чернавскому) инфор-
мации как фиксированного (фиксируемого) выбора является как бы мостовым между статистикой и структурой. Понимание информации через
неоднородность кажется вполне универсальным, общим. Типа когда еще только возникает ПОДОЗРЕНИЕ на структурообразование, когда
структуры эфемереидны, малопроявлены, неохарактеризованы уже можно говорить о неоднородности (без структурной определенности
неоднородностей).

Другое дело, что инженерное понимание начинается по природе своей тогда, когда есть вполне определенность. ("..структурные измене-
ния, которые мы меряем".)

> Проблема здесь не только в собаке. Проблема в инертности оценивающей системы.

Да. Но дело не только в инертности оценивающей системы, но и в ее типе. Я отстаиваю тут на форуме мысль, что 'главное' качество
'собственно' интеллекта - это его рефлективность. Именно с рефлективностью я связываю такую способность интелекта как способность абстракции, оперирование абстрактными, знаковыми, формальными репрезентациями - бишь то, что лежит в основе способ-
ности к формальным логическим операциям (группы INRC, тождества-отрицания-реципрокности-кореллятивности). Формальная логика
(металогика С2) есть абстракция от времени, динамичности универсума, но именно поэтому С2-Rf-интеллект и может преодалеть свои
временные ограничения, постигая сверхреальные временные промежутки и отношения, преодалеть свою инерционность (имея возможность
стать ненаивным наблюдателем-интерпретатором-рассуждателем).

> Вот только не относительно самого себя.

Базовый уровень все-таки обычно определяют в его собственных терминах. Секунда это столько-то эталонных колебаний, но эталона
для эталона обычно не подразумевается. Ваши сомнения вполне понятны, они реализуются в более изощренных конструкциях типа само-
согласованных процедур калибровки, бутстрапирования.. но тут нужно блюсти меру между логической сверхстрогостью и инженерными
установками.

> которая сведётся к монотонной непериодической функции.

Не понимаю. Возможно вы имеете в виду кусочно-постоянные базисные функции (уолш, хаар и др), удобные для импульсных систем; воз-
можно вы имеете в виду вайвлеты, - разложения и решения для существенно нелинейных условий, - тогда можно понять линейность, гар-
моничность как вырожденный случай, удобное приближение. Но если сильную нелинейность считать фундаментальной (наверное правильно),
то сомнения возникают относительно 'монотоности', которую трудно понять в условиях рвущихся топологий.. (cиречь, в частности, пе-
рестраивающихся структур-сетей)..

Пожалуйста Войти или Регистрация, чтобы присоединиться к беседе.

Модераторы: Inex
Время создания страницы: 0.458 секунд
Работает на Kunena форум