Об этике современного программирования
Feb. 14th, 2023 09:27 am![[personal profile]](https://www.dreamwidth.org/img/silk/identity/user.png){kind=small}
green_frВ самом начале войны, когда пошли первые санкции, они в частности затронули родную alma mater. В нашем чатике по этому поводу прошлись: вот де мол, злобные американцы, под видом санкций пытаются подрезать крылья встающей с колен российской науки. Но никто при этом не мог сказать, за что именно ФизТех попал под санкции. В оригинальных документах (насколько я смог их причитать) был только список, без объяснения причин. Я написал запрос ректору института, нет ли у них информации, почему они попали под санкции. Если нет, то какие меры они принимают, чтобы понять, почему они туда попали. А если да, то принимаются ли меры по тому, чтобы из-под санкций выйти. Понятное дело, ответа не получил.
Зато недавний Le Monde, возможно, проливает свет на причины санкций. Как минимум, рассказывает о расследовании, в результате которого выяснились детали сотрудничества МФТИ с — я даже не знаю, как это назвать. Юридически, с государственной администрацией, с Роскомнадзором. Фактически, с прячущимися за вывеской Роскомнадзора спецслужбами, выполняющими незаконную слежку за российскими гражданами.
Газета упоминает расследование нескольких российских групп, которым взломавшие Роскомнадзор хакеры передали сотни тысяч документов. Из украденных документов следуют какие-то очевидные вещи: Роскомнадзор следит за публикациями в интернете и пытается блокировать информацию о том, как проходит война в Украине (целиком блокированы десятки российских и иностранных СМИ, сотни украинских СМИ, плюс 150 000 отдельных страниц). Информацию о найденных нарушителях Роскомнадзор точно так же предсказуемо передаёт ФСБ и пр. Точно так же предсказуемо, но уже менее легально — Роскомнадзор отдельно следит за сотнями российских журналистов и блогеров. (кстати, написал и задумался — учитывая нынешнее состояние российского законодательства, может это вовсе и легально, но я надеюсь, что нет)
Чуть менее ожидаемые вещи: Роскомнадзор следит и блокирует не только нарушения российского законодательства, но и просто публикации на неприятные властям темы, как то: ход мобилизации и здоровье лично товарища Путина.
Более того, из украденной переписки видно, что работники Роскомнадзора регулярно получали и выполняли совсем уж выходящие за их официальные должностные обязанности задачи, например организовывать атаки ботов и троллей в комментариях — раньше считалось, что этим занимается только Пригожин. Эти же боты использовались для проникновения в частные группы переписки (видимо, в расчёте, что хотя бы кого-то случайно да и примут), чтобы потом сажать людей на основании там опубликованного. Впрочем, пишут в газете, последнее остаётся маргинальщиной, основную массу осуждённых за неправильные слова заложили их живые собеседники.
Ну а потом рассказывают и о родном Институте, который действительно подписался помочь разработать систему автоматический слежки: Роскомнадзор сам справился с внедрением искусственного интеллекта в анализ текста, а ФизТех допилил туда же распознавание нарушений в картинках и видео. «Нарушений» как в терминах российских законов, так и в более широком смысле — всё, что не нравится Кремлю. Список очень смешной. Помимо «сравнений Путина с крабом» Физтехи подписались искать в картинках ещё пропаганду child free.
Прочитав после статьи в Le Monde оригинал расследования, я бы уточнил французских журналистов: в МФТИ не разработали софт, а только сделали спецификации и доказали его возможность. Сам тендер потом выиграли другие компании — в расследовании приводятся их имена.
Вообще, очень интересная тема. Буквально за неделю до этой публикации я прослушал серию подкастов Бремя технологий. Он вообще посвящён этике современных технологий, а последний выпуск практически только на эту тему: можно ли закрывать глаза на то, как используются твои разработки? В частности там приводился пример разработчиков софта, по которому во время ковида распознавали нарушителей московского карантина. Потом этот же софт применяли для идентификации и наказаний выходивших на антивоенные митинги. Рассказали о том, как по публичным источникам нашли участвовавших в разработке этого софта, и как сам только этот факт сильно дал по мозгам многим программистам — напоминает, что ты живёшь в реальном мире, а не внутри вот этой своей коробочки.
Понятно, что разработка такого софта — это всё-таки чуть лучше, чем наведение ракет на гражданские электростанции. И подкаст скорее об этом, о неожиданном для многих осознании необходимости понимать, где у каждого из нас проходит граница приемлемого. Кто готов работать над ядерным оружием? Кто готов работать на производителя сигарет или алкоголя? Кто готов администрировать базу данных наркоторговцев? Кто готов считать дифуры для того, чтобы ракета попала в жилой дом?
Ну и, чтобы закончить пост на оптимистической ноте, предлагаю прочитать (если ещё не) рассказ о том, как в Яндексе подменяли пользовательские запросы, чтобы россияне случайно не нашли то, что они искали. Это из другой утечки, тут выдали базу самого Яндекса. В предыдущем расследовании нашли стыковку с этой историей — у Роскомнадзора был специальный файлик, при помощи которого они сообщали Яндексу, какие ещё ключевые слова нельзя ассоциировать с товарищем Путиным.
Зато недавний Le Monde, возможно, проливает свет на причины санкций. Как минимум, рассказывает о расследовании, в результате которого выяснились детали сотрудничества МФТИ с — я даже не знаю, как это назвать. Юридически, с государственной администрацией, с Роскомнадзором. Фактически, с прячущимися за вывеской Роскомнадзора спецслужбами, выполняющими незаконную слежку за российскими гражданами.
Газета упоминает расследование нескольких российских групп, которым взломавшие Роскомнадзор хакеры передали сотни тысяч документов. Из украденных документов следуют какие-то очевидные вещи: Роскомнадзор следит за публикациями в интернете и пытается блокировать информацию о том, как проходит война в Украине (целиком блокированы десятки российских и иностранных СМИ, сотни украинских СМИ, плюс 150 000 отдельных страниц). Информацию о найденных нарушителях Роскомнадзор точно так же предсказуемо передаёт ФСБ и пр. Точно так же предсказуемо, но уже менее легально — Роскомнадзор отдельно следит за сотнями российских журналистов и блогеров. (кстати, написал и задумался — учитывая нынешнее состояние российского законодательства, может это вовсе и легально, но я надеюсь, что нет)
Чуть менее ожидаемые вещи: Роскомнадзор следит и блокирует не только нарушения российского законодательства, но и просто публикации на неприятные властям темы, как то: ход мобилизации и здоровье лично товарища Путина.
Более того, из украденной переписки видно, что работники Роскомнадзора регулярно получали и выполняли совсем уж выходящие за их официальные должностные обязанности задачи, например организовывать атаки ботов и троллей в комментариях — раньше считалось, что этим занимается только Пригожин. Эти же боты использовались для проникновения в частные группы переписки (видимо, в расчёте, что хотя бы кого-то случайно да и примут), чтобы потом сажать людей на основании там опубликованного. Впрочем, пишут в газете, последнее остаётся маргинальщиной, основную массу осуждённых за неправильные слова заложили их живые собеседники.
Ну а потом рассказывают и о родном Институте, который действительно подписался помочь разработать систему автоматический слежки: Роскомнадзор сам справился с внедрением искусственного интеллекта в анализ текста, а ФизТех допилил туда же распознавание нарушений в картинках и видео. «Нарушений» как в терминах российских законов, так и в более широком смысле — всё, что не нравится Кремлю. Список очень смешной. Помимо «сравнений Путина с крабом» Физтехи подписались искать в картинках ещё пропаганду child free.
Прочитав после статьи в Le Monde оригинал расследования, я бы уточнил французских журналистов: в МФТИ не разработали софт, а только сделали спецификации и доказали его возможность. Сам тендер потом выиграли другие компании — в расследовании приводятся их имена.
Вообще, очень интересная тема. Буквально за неделю до этой публикации я прослушал серию подкастов Бремя технологий. Он вообще посвящён этике современных технологий, а последний выпуск практически только на эту тему: можно ли закрывать глаза на то, как используются твои разработки? В частности там приводился пример разработчиков софта, по которому во время ковида распознавали нарушителей московского карантина. Потом этот же софт применяли для идентификации и наказаний выходивших на антивоенные митинги. Рассказали о том, как по публичным источникам нашли участвовавших в разработке этого софта, и как сам только этот факт сильно дал по мозгам многим программистам — напоминает, что ты живёшь в реальном мире, а не внутри вот этой своей коробочки.
Понятно, что разработка такого софта — это всё-таки чуть лучше, чем наведение ракет на гражданские электростанции. И подкаст скорее об этом, о неожиданном для многих осознании необходимости понимать, где у каждого из нас проходит граница приемлемого. Кто готов работать над ядерным оружием? Кто готов работать на производителя сигарет или алкоголя? Кто готов администрировать базу данных наркоторговцев? Кто готов считать дифуры для того, чтобы ракета попала в жилой дом?
Ну и, чтобы закончить пост на оптимистической ноте, предлагаю прочитать (если ещё не) рассказ о том, как в Яндексе подменяли пользовательские запросы, чтобы россияне случайно не нашли то, что они искали. Это из другой утечки, тут выдали базу самого Яндекса. В предыдущем расследовании нашли стыковку с этой историей — у Роскомнадзора был специальный файлик, при помощи которого они сообщали Яндексу, какие ещё ключевые слова нельзя ассоциировать с товарищем Путиным.
