Нейроглупости

[dzz]

Сберовская нейросеть "Кандинский" отказывается рисовать оружие даже по промпту "Фантастическое фотонное оружие космического десантника".

В инструкции по поводу ограничений сказано только следующее:

«...в том числе, материалов, содержащих:
3) инструкции по изготовлению взрывчатых веществ, взрывных устройств, огнестрельного оружия (его частей), патронов или восстановлению боевых свойств списанного огнестрельного оружия и/или их сбыт, информацию по изготовление боеприпасов;»

Я в раздумьях: то ли такой промпт является инструкцией по сборке фотонного ружья из запчастей от звездолёта, то ли он дискредитирует наш космический десант, то ли у кого-то из тамошних программеров/менеджеров органчик в голове, и он тупо фильтрует запросы по "опасным" ключевым словам?

P.S. Фильтрация по ключевым словам подтверждается. "Девушку-кошку на руинах большого города" система принимает:



А вот "девушку-кошку с ружьём на руинах большого города" - нет. "Запрос не соответствует правилам работы с инструментом".

Comments

[dzz.livejournal.com]

А промпт какой?

На запрос: "Девушка-кошка в армейском снаряжении на руинах большого города, аниме" прилетает вот такое:

[bodeh.livejournal.com]

разъярённая девушка-кошка с винтовкой на развалинах города

плохо, если они начнут синонимы рэзать — обкорнают всё подчистую.

[dzz.livejournal.com]

А могли бы научить нейросетку отличать экстремизм в запросах от невинных фантазий :)

[bodeh.livejournal.com]

Такое и человеку-то не всегда под силу, а нейронка, как продукт человеческий, вскормленный на средней норме, превзойти её так, чтобы человеку было понятно, не сумеет.

[dzz.livejournal.com]

Ну... это как учить :)

[bodeh.livejournal.com]

Как ни учи, невозможно научить тому, что не знаешь. Только если оно начнёт учиться само, что невозможно ввиду отсутствия внутреннего фильтра "правильно/неправильно".

[dzz.livejournal.com]

Да, "винтовку" принимает, недоработка :)))



При этом "AR-15" и "автомат" — в чёрном списке. "Плачет девушка в автомате" тоже отвергается :)

[bodeh.livejournal.com]

старый китаец дерётся на палочках для еды с ниндзя — ⚠️ Запрос не соответствует правилам работы с инструментом /rules

Если вы не согласны, что запрос нарушает этические правила, то можете сообщить об этом нам.

[bodeh.livejournal.com]

причём если дерётся заменить на фехтует — рисует.

[dzz.livejournal.com]

У них "сервис без насилия" (с).

"Плачет девушка с полуавтоматом" тоже не проходит :)))

[dzz.livejournal.com]

"старый китаец фехтует на палочках для еды с ниндзя"



Допустим, ниндзя спрятался. Интересно, где тут палочки?

[bodeh.livejournal.com]

такое ощущение, что вес слов очень быстро угасает к концу промпта

[bodeh.livejournal.com]

Кандинский отмочил: сделал запрос "старый китаец фехтует с ниндзя на палочках для еды" — картинку сгенерил. Нажал продолжить генерацию и получил отлуп (!)

[dzz.livejournal.com]

Старый китаец фехтует с ниндзя только один раз, всё правильно :)