Галлюцинации Gemini

[dzz]

Попросил гугловую нейросетку нарисовать схему постановки правой ноги на мотоцикле относительно педали заднего тормоза. Gemini сгенерила картинку и подписала основные элементы тормозной системы.



Лучше бы не подписывала :)))

Теперь вы можете быть спокойны за свои рабочие места.

Comments

[p2004r.livejournal.com]

НС это аппроксиматор некого манифолда, откуда все эти разговоры о какой то там стохастике я не очень понимаю.

Если исходить что мы даем её длинную историю динамической системы, то по теореме Такенса это будет именно манифолд исходной системы (в пределах наблюдаемости). Манифолд это и есть система. Каким образом сделана его описание и в какую систему координат он уложен совершенно безразлично. Два качественно эквивалентных манифолда описывают одинаковые системы.

Некоторые ограничения может давать "наблюдаемость", которую определяет что за историю мы даем. Вот мелкая моторика более чем хорошая добавка к собственно языку. Восстанавливать через призму языка "геометрическую интуицию" совсем похоже неблагодарное дело. Но дать НС крутить объекты в физическом движке как отобрать дать конфетку ребенку.

[dzz.livejournal.com]

Стохастика в нейросетях применяется при обучении для того, чтобы "вышибать" решения из локальных экстремумов. Ну и в генеративных НС — для "оживления" результата, чтобы он был больше похож на человеческий.

[p2004r.livejournal.com]

Но это не имеет отношение к манифолду аппроксимурующего манифолд системы породившей историю наблюдений которую мы скармливаем НС при обучении. Можно по нему "катать шарик" сколько угодно раз и суммировать траектории которые получаться, но это не имеет никакого отношения к громким заявлениям — "оно просто по вероятности работает". Это беспросветная глупость звучащая в инете.

Манифолд будет настолько же идентичен копируемому насколько простираются причинно-следственные связи "от точки зрения наблюдателя".

А если что то не влияет (не имеет причинно-следственной связи) на наблюдаемую историю системы, то оно (с точки зрения наблюдателя) и является эпифеноменом. Конечно история системы должна быть достаточной длины. Ну вот "мелкая моторика с точки зрения языка" похоже "почти эпифеномен".

Но на самом деле "геометричность мышления" скорее всего крайне важна для построения "правильно дополнительно упорядоченного" эмбендинга, что должно ассоциативную память НС поднять еще ближе к лучшим образцам человеческой копируемой в ходе обучения.

Если что, то датасайенс я занимаюсь со времен, когда оно еще не называлось так. )