Нейроглупости

[dzz]

Сберовская нейросеть "Кандинский" отказывается рисовать оружие даже по промпту "Фантастическое фотонное оружие космического десантника".

В инструкции по поводу ограничений сказано только следующее:

«...в том числе, материалов, содержащих:
3) инструкции по изготовлению взрывчатых веществ, взрывных устройств, огнестрельного оружия (его частей), патронов или восстановлению боевых свойств списанного огнестрельного оружия и/или их сбыт, информацию по изготовление боеприпасов;»

Я в раздумьях: то ли такой промпт является инструкцией по сборке фотонного ружья из запчастей от звездолёта, то ли он дискредитирует наш космический десант, то ли у кого-то из тамошних программеров/менеджеров органчик в голове, и он тупо фильтрует запросы по "опасным" ключевым словам?

P.S. Фильтрация по ключевым словам подтверждается. "Девушку-кошку на руинах большого города" система принимает:



А вот "девушку-кошку с ружьём на руинах большого города" - нет. "Запрос не соответствует правилам работы с инструментом".

Comments

[dzz.livejournal.com]

А могли бы научить нейросетку отличать экстремизм в запросах от невинных фантазий :)

[bodeh.livejournal.com]

Такое и человеку-то не всегда под силу, а нейронка, как продукт человеческий, вскормленный на средней норме, превзойти её так, чтобы человеку было понятно, не сумеет.

[dzz.livejournal.com]

Ну... это как учить :)

[bodeh.livejournal.com]

Как ни учи, невозможно научить тому, что не знаешь. Только если оно начнёт учиться само, что невозможно ввиду отсутствия внутреннего фильтра "правильно/неправильно".