Мотивирующие фразы MathWorks

[green_fr]

А ещё на недавнем семинаре MathWorks понравилась мотивирующая на создание тестов фраза:
Do you care if it really works? If no — just write the code. If yes — write test case before coding.
Интересно, сработает ли на мне — у меня уже несколько лет висит TODO: разобраться с unit test framework :-)

И другая фраза про то, что нам не страшно неполное понимание механизмов машинного обучения: скоро мы будем не программировать компьютеры, а дрессировать их, как собак. И ведь действительно, никого не смущает, что мы не до конца контролируем собачий разум, что иногда дрессура даёт сбой. Мы все прекрасно понимаем, насколько удобно «пользоваться» собаками даже и без абсолютного контроля над результатом.
Наверное, разница в том, что в случае с собаками злоумышленник находится примерно в той же ситуации, что и мы — достаточно сложно незаметно хакнуть мозг собаки, переучив её на что-то другое (хотя Швейк, как известно, приводил подобные примеры). В то время как нейронную сеть достаточно легко обмануть.

Comments

[birdwatcher.livejournal.com]

На то, чтобы разобраться, как пользоваться собаками, ушли десятки тысяч лет совместной эволюции. Причем, как по мне, результаты не особенно впечатляют.

[muh2.livejournal.com]

Отличие собаки еще в том, что мы знаем ее ограничения и смирились с ними. Поэтому вопрос "а что делать когда дрессура дойдет до предела своих возможностей" не возникает. А вот если мы захотим вывести собаку с жабрами способную сервировать по утрам кофе - то прийдется лучше разбираться в собаке.

[el-philippa.livejournal.com]

Мне не нравится сравнение машинного обучения и собаки. Получается очень misleading. Отпечаток, оставляемый обученной или необученной собакой, мизерный по сравнению с отпечатком, который может оставить обученный и многократно реплицированный модуль.

Write test case before coding имеет отношение скорее к tdd, чем напрямую к unit testing.

[zlyuk.livejournal.com]

проблема не в злоумышленниках. проблема в ожидании того что оно всегда будет работать. мозг собаки достаточно похож на наш, чтоб можно было положиться на то что она не примет дерево за курицу, или человека за кошку. с нейронной сетью никогда не знаешь чего ждать

[green-fr.livejournal.com]

Типа, собаки никогда ни с того ни с сего не кусают прохожих? Мы просто привыкли к этому, а как именно будет кусаться нейронная сеть - страшно представить.

[zlyuk.livejournal.com]

если ограничить спектр задач для нейронных сетей теми, что мы доверяем собакам, то может и ничего. но ИИ изначально делают для того чтоб переложить на него более сложные задачи.

но скажем, если б собаки-поводыри, например, время от времени решали, что для оптимального решения их задачи следует подтолкнуть ведомого под машину, или сторожевые собаки иногда вызывали б пожар на охраняемых объектах замыкая провода, или ищейка брала бы неверный след по непонятным нам причинам, то использование собак было б под вопросом

[wildest-honey.livejournal.com]

с собаками все-таки очень много работы чтобы именно понять причину сбоя. тогда сбой можно либо избежать либо повторить (использовать для обучения дальше).
Дрессировка собак "по старинке", когда результат главное - это уходит.

Мне кажется волна простой дрессировки компьютеров наоборот скоро пойдет в обратную сторону к гибридным методам где какое-то понимание возможно (и я вижу это уже в одном нашем проекте для школьных планшетов с заданиями)

[green-fr.livejournal.com]

Так с сетями то же самое - каждый сбой изучается, чтобы понять, как его избежать. Наверняка даже быстрее изучается и надёжнее чинится (починка может принести другие сбои, конечно же), потому что можно "препарировать" сеть, разложить всё по полочкам и несколько раз прогнать один и тот же сигнал. Чего с собаками не сделать, конечно же.

[wildest-honey.livejournal.com]

да ладно, ну вот как гугл починил чтобы люди с темной кожей не классифицировались как обезьяны? после трех лет просто убрали категорию обезьяны. И это при очевидной человеку причине ошибки.
Препарирование сети только-только стало объектом серьезных исследований и публикаций, там еще далеко до возможности понять и починить

[green-fr.livejournal.com]

Тебе кажется, убрали категорию потому, что сложно было проанализировать ошибку? Или просто не захотели тратить на это время и ресурсы? Так и с собачниками не все такие усердные, как ты.
Я не говорю, что все ошибки будут исправлены. Мне кажется, что если задаться целью, то каждую конкретную ошибку исправить можно (но не все вместе и гарантированно).

[a_p]

А разве писание тесткейса - это не кодирование?

[green-fr.livejournal.com]

Сколько процентов программистов с тобой согласны хотя бы на словах? Сколько на деле?

[a_p]

Я довольно мало знаю программистов, но мой вопрос не к ним, а к авторам фразы: я примерно понимаю, что они имели в виду, но вижу внутренне противоречие в том, что они написали.

[och.livejournal.com]

Меня примерно в этом же месте удивило, я думал без юнит (и проч. автоматизированных) тестов уже минимум лет десять никто ничего серьезно не пишет.

[a_p]

Я довольно мало знаю про то, как это на самом деле (не в книгах-статьях-нормативных документах) делается сейчас. Причём, судя по отрывочным сведениям о том, сколько человеко-месяцев закладывается на некоторые разработки, я бы, пожалуй, и не хотел бы об этом узнавать :)