@Moon-Watcher

Всем привет! С недавних пор сильно интересуюсь темой ИИ, сегодня рискнул накатать небольшую статейку по давно интересующему меня вопросу. Просьба не судить строго и возможности поделиться соображениями по существу высказанных идей (вполне допускаю, что нелепых или наоборот неоригинальных). Особенно интересует мнение программистов нейросетей - возможно ли применение этих идей на практике, какие при этом возникают проблемы и т.д.?
del

Добавлено через 31 минуту
Один из волнующих меня вопросов в области искусственного интеллекта — осмысление текста. Как известно, современные нейросети относительно успешно справляются с языковыми переводами и другими задачами, но эта относительность обусловлена как раз тем, что они не понимают смысла переводимого текста.

Каждому лингвисту известна фраза следующего содержания: «гло́кая ку́здра ште́ко будлану́ла бо́кра и курдя́чит бокрёнка«. Для русского уха звучит вполне по-славянски и определенно выражает некое действие — но не более того. В моем понимании примерно так нейросети и воспринимают переводимый тест, выделяя в нем подлежащее и сказуемое, существительные, глаголы, прилагательные и прочие части речи — не понимая при этом их смысла.

Но что есть смысл? Чем от фразы выше отличается, к примеру, следующий тест: «большая собака больно укусила кота и лижет котенка«, смысл которого нам уже вполне понятен? На мой взгляд, эта понятность выражается в первую очередь в зрительных образах и отчасти — эмоциональных и физических ощущениях, когда-либо нами испытанных. Все мы видели собак, котов, котят, понимаем разницу между большим и малым (по крайнем мере в рамках некоей воображаемой нами сцены), видели как животные кусают и лижут, и знаем что такое чувство боли.

Означает ли это, что задав в нашей искусственной системе набор соответствий между словами и образами (в виде изображения, видео или звука), мы сможем хотя бы частично (возможно за исключением ощущений) научить её понимать смысл прочитанного текста? На мой взгляд — да, во всяком случае примерно так осознаем прочитанный или услышанный текст мы сами. Благодаря наличию такой взаимосвязи можно произвести и обратное действие: описать текстом увиденный репортаж или кинофильм (в принципе современные нейросети уже научились описывать текстом сюжет, который видят на изображении).

Но на этом осмысление текста не заканчивается. Машине будет непросто объяснить смысл вышеупомянутых эмоциональных и физических ощущений — их испытывает только живое существо. Хотя по сути это все лишь набор сигналов, поступивших в мозг, поэтому теоретически для восприятия ощущений органы чувств необязательны — возможно в перспективе воспроизвести все эти ощущения удасться в самой машине. И даже без этого можно задать набор соответствий между словами, которые эти ощущения выражают (боль, страх, ненависть, любовь и т.д.) и, например, соответствующим выражением на лице человека. Или даже набором сюжетов, в которых эти ощущения сопровождаются определенными действиями. В этом случае ИИ по крайне мере будет понимать как эти ощущения проявляются у человека.

Более сложная, на мой взгляд, проблема возникает тогда, когда надо «отделить зерна от плевел» — выделить в тексте главное. Это довольно непростая задача даже для человека — к примеру роман Достоевского «Преступление и наказание» можно описать как в виде последовательности конкретных событий (в традициях обычного детектива), так и в виде философской дилеммы и тяжелых душевных переживаний главного героя. Упростим задачу и попросим ИИ пересказать нам событийную линию этого сюжета. Как он поймет, что в нем главное?

Для начала придадим человеческим поступкам веса значимости — убийство безусловно заслуживает большего внимания, чем поход в булочную. В свою очередь с позиции морали (общественного одобрения или порицания) можно дать человеческим поступкам ту или иную нравственную оценку. Впрочем (см. ниже) эти веса возможно получится присвоить в процессе обучения ИИ на базе мировой литературы.

Еще один вопрос — определение главных героев повествования (значимые поступки которых надо пересказать), но это вроде бы достаточно просто — достаточно принять во внимание частоту упоминания того или иного персонажа. Чтобы лакей, который регулярно произносит «Кушать подано!», не стал одним из героев повествования, к регулярности упоминания надо будет присовокупить вышеупомянутую значимость поступков. Таким образом, основная сюжетная линия будет определяться ИИ на основе количественных и качественных параметров — аналогично тому, как это происходит у человека.

Но и зрительного осмысления с возможностью краткого пересказа недостаточно — очевидно необходимо также логическое осмысление, т.е. понимание причинно-следственной взаимосвязи. Логика может быть как задана изначально, так и, возможно, выработана в процессе выявления взаимосвязей между отдельными событиями внутри прочитанных сюжетов. Например, в «Ромео и Джульетте» можно выделить такие события: 1) вражда Монтекки и Капулетти; 2) возникшая между Ромео и Джульеттой любовь при случайной встрече; 3) стремление влюбленных сочетаться браком; 4) невозможность такого брака из-за междоусобицы их семей; 5) самоубийство Ромео и Джульетты, не способных смириться с утратой любимого человека. Не считая сюрреализма с фантастикой, художественные произведения вполне реалистично иллюстрируют человеческие взаимоотношения и позволяют выявить в них закономерности: 1) если люди влюбляются — они стремятся быть вместе; 3) если их семьи враждуют — им этого не позволяют; 4) если им этого не позволяют — они страдают. Едва ли наше собственное осмысление подобных художественных перипетий всегда основывается на личном опыте — зачастую это результат нашего знакомства со множеством подобных сюжетов. Возможно, что пропустив через ИИ мировую художественную и научную историческую литературу, мы обучим его вполне человеческому осмыслению человеческих поступков и переживаний.

Последнее — пожалуй самая сложная и трудно формализуемая задача. Возможно её решение следует предварить более формальным описание сюжета из художественной литературы. Например, представить его в виде набора таблиц, у которых горизонтальная и вертикальная шапка — это персонажи или даже неодушевленные категории, а в ячейках — описание отношений или действий между ними.

Возьмем роман «Робинзон Крузо», основной сюжет которого не изобилует персонажами. Его можно описать парами:

Робинзон — корабль: Робинзон плывет на корабле
Корабль — море: корабль тонет
Робинзон — остров: Робинзон оказывается на острове
Робинзон — остров: Робинзон выживает благодаря острову
Робинзон — Пятница: Робинзон и Пятница встречаются
Робинзон — Пятница: Робинзон спасает Пятницу.

И т.д. и т.п. По мере накопления тысяч всевозможных сюжетов из художественной литературы с миллионами пар, описывающих взаимоотношения и события между персонажами этих сюжетов, ИИ будет выявлять в них в них закономерности и таким образом как бы логически осмысливать сам сюжет. В конце концов что такое логика, как не обобщение причинно-следственных связей, наблюдаемых нами в повседневной жизни? В рамках нейросети эти связи будут выражаться через усиление или ослабление связей между нейронами — в зависимости от того, насколько часто эта взаимосвязь встречается в мировой литературе. В результате, встретив уже новый текст, ИИ будет способен оценить его логичность и таким образом понять. Очевидно, что по аналогии с нынешним творчеством в изобразительном искусстве и музыке, машина когда-нибудь сможет сама создавать новые литературные произведения.

Если резюмировать, осмысление текста искусственным интеллектом на мой взгляд можно реализовать следующим образом:
1) каждому слову на естественном языке задается соответствующий ему набор зрительных и слуховых ассоциаций (например, видеороликов);
2) посредством подсчитанных в тексте количественных, а также заранее заданных или выявленных в процессе обучения качественных параметров, в этом тексте выделяется основной сюжет;
3) каждое действие в этом сюжете логически осмысливается на основе предварительно выявленных в литературе (или любом другом источнике информации о человеке, например кинематографе) закономерностей.

Примерно так представляется мне общий, теоретический, подход к реализации понимания смысла текста искусственным интеллектом. Это мнение ни в коем случае не претендует на экспертное, поэтому прошу читателя не судить строго за возможно слишком наивное понимание столь сложной проблемы. Причем пока речь идет о довольно простых текстах с конкретным сюжетом — на уровне детской литературы. В литературе более зрелой много иносказательного и недосказанного, сложных эмоциональных переживаний. Поймет ли их бездушная машина?..

1

@Mikhaylo

Поймет. Если машине приделать визуальные индикаторы виртуальных чувств (улыбочку, например), затем обучить, то она сможет адекватно управлять этим индикатором.

0

@Moon-Watcher

В принципе согласен, схожую мысль выразил в тексте, но решил её дополнить наглядным примером:

0

@Mikhaylo

Многих ИИ-шников (это те, кто пытается каким-либо образом изучать искусственный интеллект, не пройдя курс машинного обучения и прочие смежные дисциплины) действительно заботит так называемая эмоциональная сторона искусственного интеллекта. Типа, ну как же бездушная машина может мыслить и самое главное чувствовать? В действительности этот философский вопрос не стоит и выеденного гроша, хотя бы потому что никакой кандидат или доктор наук не может позволить себе глупость изобрести некую "программную ману", которая образует чувства бездушной машины. Для школьников придумали такой мысленный эксперимент "китайская комната", чтобы объяснять эти тонкие моменты, для более серьезных дядек употребляется термин "черный ящик". Типа какая разница, что происходит внутри, главное, что "черный ящик" выдает правильный результат.
Но верующие в некую живую квинтэссенцию внутри умных живых существ, называемой ими душой, ведут себя как религиозные фанатики. Действительно, откуда они знают об этом нечто, что у нас внутри? Каждый, кто верит в душу, не сам дошел до такой мысли, а позаимствовал идею от таких же религиозных фанатиков, как он сам. Никакая физическая теория, никакие эксперименты не могут обосновать и обнаружить эту душу. То есть все рассуждения базируются на бытовом людском мнении.
Между тем, настоящим исследователям не очень понятно, зачем нужна некая "программная мана", если обычный оптимизационный алгоритм из курса Machine Learning успешно ведет себя как интеллектуальный алгоритм.

0

@vchc

А собственно, что вы хотите от участников форума? Оценку направления ваших размышлений? Направление верное. Ещё 5-20 лет поглощения и переосмысления информации по теме (в зависимости от объёма уже имеющихся знаний) и вы сможете в своём тексте заменить все неопределённые выражения вида "вроде бы", "может быть", "будет" и т.д. на формальные теории и алгоритмы. А стоит ли вам тратить своё время на это занятие? В 99.9999% случаев ответ - не стоит.

0

magirus

многие иишники желают из ИИ представить deus ex machina, аналогизировать его с человеческим мышлением.
вопрос, а ЗАЧЕМ?
распознавание образов - (красное, синее, круглое, квадратное,) - согласен.
машинный перевод - согласен,
но имитация эмоций - зачем?

0

@Mikhaylo

Для развлечения. Entertainment приносит-таки доход.

0

magirus

ага, заказал себе резиновую женщину, туды сюды, а она "не сегодня милый, голова болит."

2

@Moon-Watcher

Эмоции имитировать можно разве что для более комфортного общения с человеком (хотя и необязательно - достаточно быть умным). Важнее понимать эмоции - как для чисто прикладных задач (переводы текстов), так и для правильного взаимодействия с человеком - понимания его команд, настроения, мотивации и т.д. Глобально же к созданию человекоподобного ИИ с моей точки зрения стремятся по двум причинам:
1) Человек - самое разумное существо, известное самому человеку, поэтому это самый удобный критерий для оценки разумности. Другие формы разума человеку просто неизвестны.
2) Человекоподобный интеллект, который подобно ребенку обучаем человеческой этике, более предсказуем. Создав альтернативную человеческой форму разума, пусть даже гораздо более эффективную (подобно тому, как реактивный двигатель эффективнее имитации птичьих взмахов крыла), человечество рискует совершенно непредсказуемыми последствиями. Более непредсказуемыми, чем развившиеся из человеческого интеллекта формы сверх-разума.

Добавлено через 10 минут
Почему же не стоит? Для меня это один из самых интересных вопросов, если не самый интересный. Может быть бум ИИ в очередной раз закончится ничем, но если мы действительно стоим на пороге т.н. сингулярности, то лучше начинать в этом хоть немного разбираться.

Со временем постараюсь разобраться в формальных теориях с алгоритмами (если осилю - это требует особого, математического склада, ума). Но вряд ли это позволит избавиться от сомнений. Будь это так просто, то наверное уже имелись бы готовые концепции человекоподобного ИИ, упирающиеся только в нехватку вычислительной мощности. А разве они есть?

1

@VTsaregorodtsev

А как ещё могут выражать свои несчастья разные неудовлетворённые желудочно кадавры? Неужели логически?
Не, логико-семантика - это уже более сложный психологический контур после биовыживалки (пожрать - оно как раз тут), эмоционало-территориалки (типа кто сильнее выглядит и громче орёт - тот и первым к корыту) и социалки (например, жрачка в обмен на секс или секс в обмен на жрачку).
(имеется в виду многоконтурная модель психики Лири-Уилсона, где можно осваивать контур за контуром - а не жёсткая типизация типа Юнговской).


А зачем взаимодействовать с человеком?
Создавайте сразу кадавра, полностью удовлетворённого. Которому на человека положить.
Это же сразу какое упрощение выходит?

0

@Moon-Watcher

Затем, чтобы обслуживать его - в качестве личного секретаря, сиделки, диспетчера, оператора техподдержки, собеседника...

0

@VTsaregorodtsev

А зачем искусственному интеллекту обслуживать человека?
ИИ может же сам придумать для себя кучу более интересных задач и способов времяпровождения.

0

@vchc

Не совсем понятно, что вам даст возможность разбираться в вопросах ИИ. Со среднестатистической точки зрения куда выгоднее потратить время на более прагматические вещи, вроде зарабатывания денег или общения с друзьями. Но если у вас есть осознанное жаление годами удовлетворять свой интерес, то это здорово. Осталось к этому желанию приложить научную методологию, ибо без неё можно долго заниматься неэффективной деятельностью и результата почти не будет.

Что касается человекоподобного ИИ, то концепций хватает. Непосвященный человек обычно видит в СМИ поверхностный слой информации из любой области знаний, некоторую мишуру для обывателя, которая должна поражать воображение и заставлять играть кровь в жилах. Все реальные достижения обычно скрыты глубоко в научной и технологической среде. Это я к тому, что для понимания причин отсутствия вокруг нас толп человекоподобных роботов надо уже погружаться в вышеупомянутую среду, а это скучно и сложно. Если говорить кратко, то для реализации любой сложной концепции должна быть собрана некоторая сумма технологий. И это не только гениальная теория и суперкомпьютер в нашем случае, но и множество сопутствующих мелких решений, которые вроде как понятно как делать, но они ещё не сделаны, отлаженных производственных и социальных цепочек, без которых в обществе даже не возникнет на каком-то серьёзном уровне попытки взяться за проблему.

0

@Moon-Watcher

ИИ бывают разные - эту кучу может придумать только ИИ с самосознанием. Понимание текста эту способность вовсе не подразумевает. Когда это произойдет, то мы получим равноправных членов общества, со своими правами и обязанностями. "Жаль только - жить в эту пору прекрасную уж не придется - ни мне, ни тебе..."©

Добавлено через 18 минут
Мне это просто интересно. Заниматься этим профессионально не планирую - для этого нужны хорошие математические способности (как и в любом программировании).

Понятно, я примерно так и подозревал. Недавно прочел в научной публикации, что сверточные сети до недавнего времени считались бесперспективными. Особых иллюзий относительно своего погружения в эту науку не питаю, поэтому надеюсь пообщаться с любителями и профессионалами, которые на простом языке могли бы прояснить те или иные моменты.

Например, как вы оцениваете такой подход:
1) описываем тексты мировой литературы посредством набора визуальных образов (картинок или их набора), выражающих слова, действия, отношения и т.п.
2) в зависимости от присутствия в одном законченном тексте набора этих образов (по возможно абстрагируемых от конкретного произведения), их последовательности и т.д. устанавливаем между ними связи той или иной силы (с учетом распространения в мировой литературе соответствующих связок)
3) осмысливаем новый текст (автоматически переложенный на язык образов) с учетом устойчивых связей, сформированных в п.2?

0

@vchc

Никак не оцениваю Если ваш общий вопрос это вопрос смысла, то направление ваших мыслей, на мой взгляд, правильное. Но ещё раз повторюсь, не совсем понятно, что вы хотите извлечь из вашего "подхода". Более чётко понять как дать конструктивное определение термину "смысл"? Узнать как создать мыслящие системы? Но это уже сложный вопрос, требующий научной работы. Что-то ещё?

0

@vvm28

Прочитав топик, я вспомнил фильм "Страховщик".

Как мы сможем понять, понимает ли машина? Мы же сможем в это только поверить или не поверить.
Если предположить, что у каждого атома во вселенной есть душа, то мы живем в полностью одушевленном мире?

Предположим аналогично с попыткой человека создать ИИ, то получается с точки зрения Бога человек кусок мяса, наделенный душой, сознанием, чувствами и тд. При чем, в этом случае, Бог должен сомневаться, наделил ли он нас некоторыми этими качествами?

Ну наделим мы ИИ чувствами и свободой воли.
Что бы получим в результате: неопределенное поведение. У нас итак на планете некоторый процент сумасшедших людей,
так мы еще получим некоторый процент сумасшедших машин.

0

echs

Moon-Watcher
Скорее всего наделить программу чувствами в ближайшие
10 лет вряд ли удастся. А вот научить программу имитировать
эти чувства и определять в тексте (в речи человека) уже можно
и в настоящее время.
Суть дела в том, что большинство слов и фраз несут в себе оценку
если так можно выразиться эмоций. Оговоримся сразу это
вероятностная оценка, но если вероятность превышает 90%, то
ее уже нельзя игнорировать.
пример
слово "убить" - отрицательное слово (чаще всего). Но
"убить комара" - это не несет с собой что-то страшного.
...
Вот и программа просматривая текст и определяя в нем положительные
и отрицательные слова, словосочетания может определить
(с определенной долей вероятности) состояние человека и его чувства.

0

@Moon-Watcher

Не вижу оснований для таких опасений. С точки зрения предсказуемости человекоподобный ИИ не должен чем-либо, помимо отсутствия эмоций (главного источника человеческой непредсказуемости) отличаться от обычного человека, воспитанного в человеческом социуме на человеческой этике. И вообще свобода воли с моей точки зрения миф - все, что мы делаем, предопределено нашей биологической природой, воспитанием и средой. С моей точки зрения человекоподобный ИИ будет скорее похож на ученого, одержимого познанием окружающего мира (во всяком случае если воспитать в нем такое стремление) и при этом лишенного плотских желаний - хотя вероятно и их можно будет при желании воспроизвести.

Добавлено через 1 час 11 минут
С комаром наверное слишком простой пример, сложнее дело обстоит с каким-нибудь монологом Сони из "Дяди Вани", который в своей статейке я предлагаю эмоционально оценивать по экранизации. Лишь бы хватило хороших экранизаций, потому что в каких-нибудь современных сериалах играют зачастую так бездарно, что понять эмоциональное состояние человека, который что-то рассказывает про небо в алмазах, будет проблематично...

Насчет эмоций - обучить им в принципе несложно, достаточно понаблюдать за эмоциональным состоянием человека в миллионах различных ситуаций. После этого ИИ в эмоциональном отношении ВНЕШНЕ будет ничем не отличаться от самого человека. Получим имитацию - как у человека, который возмущается оскорблению, но внутренне не испытывает по этому поводу никаких эмоций. Но действительно интересен вопрос о воспроизводстве ощущений искусственно. В статейке я упомянул, что все наши ощущения - сигналы в мозг, строго говоря тело для этого не нужно. Т.е. возбуждение каких-то групп нейронов выражает страх, боль, радость и т.д. Но что есть, например, чувство боли - как его по-настоящему воспроизвести у робота?

0

echs

Moon-Watcher
Для человека боль - это своего рода указание на то, что
что человек имеет какой-то "ущерб". Примеры
1. занозил палец - в пальце инородное тело
2. сломал руку - вышла из строя одна конечность
3. обжегся - часть кожи не может исполнять роль охраны
...
У программы боль должна означать то же самое
1. Ошибка в программе - замедляет работу программы
или программа выдает что-то непонятное
2. Не найден нужный файл - воруют (психологическая боль)
надо принять лекарство - "все украдено до нас"
и так далее...

0

@Moon-Watcher

Это не есть ЧУВСТВО боли, сопровождаемое страданием. Мы не просто убираем руку от источника критической температуры, не просто ищем занозу - мы страдаем и поэтому стремимся от них избавиться. Подобно эмоциям, уклонение от опасности можно воспроизвести в роботе внешне, но это не будет сопровождаться подачей в искусственный мозг сложного набора сигналов, выражающего страдание от боли или страх перед её возникновением.

К примеру в робот можно заложить алгоритм безусловного поиска источника электроэнергии. Но в этом случае его поведение скорее будет напоминать солдата, следующего осознанному или бессознательному чувству долга - выжить, чтобы воевать. А страх - это нечто другое. У человека страх и боль - это нечто животное, вырабатываемое на протяжении сотен миллионов лет эволюции. Природа научила его страху и боли ради выживания, но сделала это не посредством безусловного алгоритма избегать боли и опасностей, а гораздо более сложных ощущений. Как эти физические или душевные страдания реализовать в роботе я пока не представляю.

1