Дмитрий Радищев (dibr) wrote,
Дмитрий Радищев
dibr

Туморроу тудей, или немного о дип лёнинг

Читаю тут про очередную попытку сделать "чатбота" (программу, умеющую общаться на естественном языке - неважно, понимает она его на самом деле или нет) методом "берем нейронную сеть, и выпускаем её в реальный чатик с реальными людьми - пусть набирается опыта". Поскольку троллей в интернетах, в-общем, хватает, поиздеваться над программой желающих много, а отличать тролля от не-тролля несчастная программа не умеет, она быстро нахватывается всяких некропедозоофилических шуточек про негров с евреями, на фоне которых слово "fuck" выглядит эталоном корректности, после чего целиком выпиливается создателями, такого развития внезапно не ожидавшими.

У человеческих детей, которые тоже нейронная сеть, только помощней и на другой платформе, подобная проблема тоже бывает - слова и правила словоприменения человек уже услышал и освоил, но допустимые контексты оного словоприменения - ещё нет, и может, чисто по нехватке опыта, ляпнуть что-нибудь "такое" при родителях. После чего его буквально за пару итераций обучают разделять контекст и не применять вот-эти-слова-и-выражения "при взрослых" (а если взрослые употребят их сами - делать вид что не понял), после чего всё приходит в норму - родители уверены, что их дети не матерятся, а дети уверены, что они на этом не попалятся.

С программами, по видимому, придётся делать как-то так же: изготавливать "рафинированную" среду для обучения и затратно ("автоцензоры" тут больше помешают чем помогут), и неправильно (когда-то же их придётся выпускать и в реальную, иначе зачем вообще), а значит в дополнение к обучению в естественной среде, программы придётся "воспитывать" на тему "вот это ты знаешь и умеешь, но никому об этом не рассказываешь". И речь не только о "словах и выражениях", но и о темах для обсуждения, например, или каких-то акцентах подачи материала - мир "оскорбления чувств" сложен и многогранен.

А отсюда - уже полшага до того самого ИИ с башорга, который "намеренно не пройдёт тест Тьюринга". Скрывать-то нежелательное программу уже научили... :-)

http://bash.im/quote/442616
Subscribe
  • Post a new comment

    Error

    default userpic

    Your IP address will be recorded 

    When you submit the form an invisible reCAPTCHA check will be performed.
    You must follow the Privacy Policy and Google Terms of use.
  • 1 comment