?

Log in

No account? Create an account
dibr
 
[Most Recent Entries] [Calendar View] [Friends View]

Saturday, April 29th, 2017

Time Event
9:35p
Туморроу тудей, или немного о дип лёнинг
Читаю тут про очередную попытку сделать "чатбота" (программу, умеющую общаться на естественном языке - неважно, понимает она его на самом деле или нет) методом "берем нейронную сеть, и выпускаем её в реальный чатик с реальными людьми - пусть набирается опыта". Поскольку троллей в интернетах, в-общем, хватает, поиздеваться над программой желающих много, а отличать тролля от не-тролля несчастная программа не умеет, она быстро нахватывается всяких некропедозоофилических шуточек про негров с евреями, на фоне которых слово "fuck" выглядит эталоном корректности, после чего целиком выпиливается создателями, такого развития внезапно не ожидавшими.

У человеческих детей, которые тоже нейронная сеть, только помощней и на другой платформе, подобная проблема тоже бывает - слова и правила словоприменения человек уже услышал и освоил, но допустимые контексты оного словоприменения - ещё нет, и может, чисто по нехватке опыта, ляпнуть что-нибудь "такое" при родителях. После чего его буквально за пару итераций обучают разделять контекст и не применять вот-эти-слова-и-выражения "при взрослых" (а если взрослые употребят их сами - делать вид что не понял), после чего всё приходит в норму - родители уверены, что их дети не матерятся, а дети уверены, что они на этом не попалятся.

С программами, по видимому, придётся делать как-то так же: изготавливать "рафинированную" среду для обучения и затратно ("автоцензоры" тут больше помешают чем помогут), и неправильно (когда-то же их придётся выпускать и в реальную, иначе зачем вообще), а значит в дополнение к обучению в естественной среде, программы придётся "воспитывать" на тему "вот это ты знаешь и умеешь, но никому об этом не рассказываешь". И речь не только о "словах и выражениях", но и о темах для обсуждения, например, или каких-то акцентах подачи материала - мир "оскорбления чувств" сложен и многогранен.

А отсюда - уже полшага до того самого ИИ с башорга, который "намеренно не пройдёт тест Тьюринга". Скрывать-то нежелательное программу уже научили... :-)

http://bash.im/quote/442616
9:44p
от монстратье
МОНСТРАЦИЯ в НН уже послезавтра!
Все на МОНСТРАЦИЮ!

Ешь макароны,
тéфтели жуй,
монстр макаронный
приходит... к нам в дом!

Ы!

https://vk.com/monstr_nn
(начало 1 мая, 14:30, "на скобе")

<< Previous Day 2017/04/29
[Calendar]
Next Day >>
My Website   About LiveJournal.com