Category: технологии

Category was added automatically. Read all entries about "технологии".

Добананились

Последнее время четко ощущаю, что живу в банановой республике. Не то, чтобы раньше банановость не была заметна. Но это был, скорее, процесс трансформации. Окончательная банановость была только теоретической концепцией. И только сейчас она выглядит как свершившийся факт.
Банановость достигла космических масштабов. Она реально видна из космоса. Например, из космоса видно, что мы умудрились вырубить половину тайги. Тайги, которая казалась вечной и бесконечной. В этом смысле мы хуже банановой республики, потому что в банановой республике заботятся о сохранении и даже увеличении объема бананов.
Еще буквально пару лет назад на горизонте маячили неплохие технологические инициативы. И это даже вдохновляло. Сейчас я не вижу вдохновляющих инициатив.
Мы просрали космос. Это тоже было предсказуемо. Но до последнего времени это, опять же, был процесс. А сейчас - свершившийся факт. И все это время Рогозин, который сам ничего не создал, кичился советским прошлым. И вот теперь оно действительно выглядит древним прошлым.
Правда, нас постоянно кормят каким-нибудь "перспективным проектом". Что в космосе, что в любой другой отрасли. Но "перспективный проект" никогда не реализуется, а когда морально устаревает, его заменяют новым "перспективным проектом".
Наша гордость - нефть - уже шесть лет никому особо не нужна.
Наша другая гордость - оружие - другим странам нужна все меньше. А сомнений в эффективности все больше. Об этом красноречиво говорят наши потери людей и вооружения в Сирии. Конечно, там был и человеческий фактор - неумение воевать. Чего нельзя уметь, не участвуя в реальных войнах. Но пример Азербайджана показывает, что весомый перевес в качестве и количестве вооружений может сам по себе решать исход войны. А самоуправляемый дрон выглядит гораздо технологичнее пылящейся в шахте советской ядерной ракеты. И это хрень, товарищи... Потому что технологии у нас не развиваются, а врагов предостаточно.
Важность технологического развития у нас явным образом отрицается. Наоборот: нас постоянно заставляют фокусироваться на чем-то старом, архаичном, на былых победах. Когда зарегистировали нашу вакцину от ковида, какой-то чиновник прямо заявил что-то типа "эти дурачки играются с новыми технологиями, а мы тут старым проверенным методом реализовали эффективную вакцину". Я не знаю, чем там играются другие в плане вакцин. Не особо слежу за этой темой. Но само высказывание показательно. Сейчас так говорит почти каждый чиновник, от которого зависит развитие какого-то сектора экономики. Однако "дурачки" рано или поздно всегда дорабатывают свою новую технологию, даже если в первоначальном виде она неэффективна. Либо заменяют ее конкурирующей технологией, которая неожиданно вырвалась вперед. А мы вечно остаемся со старым "дедовским методом".

Внимание, знатоки, вопрос: что, собственно, делать-то? Как перестать выращивать (точнее, просто вырывать с корнем) бананы и начать строить ракеты?

Такой прогресс в ИИ нам не нужен

Для меня самым важным последствием анти-расистского кипиша является то, что больше людей стали здраво оценивать состояние дел в области искусственного интеллекта.

Очень сложно критиковать текущее положение вещей в AI, когда сам являешься частью технического сообщества. Потому что, по сути, встаешь в оппозицию всему сообществу. Ибо подавляющее число технарей успешно зазубрило романтичную, но примитивную роль, которую общество когда-то само для них же и придумало. Вот такую: если ты технарь, то ты двигатель прогресса, а прогресс - это любое развитие технологий; поэтому если тебе не нравится текущее развитие технологий, то ты - враг прогресса, то есть не технарь.

Нет, дорогие мои. Не существует какого-то абсолютного прогресса, который еще и неизбежен к тому же. Это очень удобная, но безответственная позиция - считать, что развитие технологий в любой момент времени - неизбежный и абсолютный прогресс.

Однако это не так. Нет никакого абсолютного прогресса. Именно люди выбирают то, каким будет прогресс. И сейчас этот выбор принадлежит корпорациям и политикам (которые во многом - падаваны корпораций). Именно эти чуваки выбрали то, каким должен быть прогресс в искусственном интеллекте, и пытаются убедить, что он неизбежен.

Но выбор этих чуваков - как никогда раньше - противоречит интересам общества. И общество даже частенько бухтит по этому поводу. Однако хитрожопые "двигатели прогресса" всегда знают, как успокоить. "Да-да, вы правы, над этикой применения искусственного интеллекта нужно поработать. И мы как раз создали и возглавили комитет по такой этике. Так что мы теперь вообще самые этичные". То есть чуваки не откликаются на реальные призывы общества, а создают видимость, будто регулируют сами себя.

Кажется, в последнее время больше людей стало понимать истинный смысл этого цирка. К сожалению, в техническом сообществе понимающих все еще недостаточно. Однако снаружи здравого смысла все больше. Не ровён час - и в большинство технарей он скоро проникнет. Поэтому читаем умного профессора-юриста из Австралии и проникаемся :)

"When underlying systemic issues remain fundamentally untouched, the bias fighters simply render humans more machine readable, exposing minorities in particular to additional harms"

"... the preoccupation with narrow computational puzzles distracts us from the far more important issue of the colossal asymmetry between societal cost and private gain in the rollout of automated systems. It also denies us the possibility of asking: Should we be building these systems at all?"

"The endgame is always to “fix” A.I. systems, never to use a different system or no system at all"

https://onezero.medium.com/the-seductive-diversion-of-solving-bias-in-artificial-intelligence-890df5e5ef53

Технологии против людей, выпуск 1

Когда вы покупаете товар в Черную пятницу, где-то на складе у кого-то разрушается сустав.

Решил сделать серию коротких заметок, в которых расскажу, что я думаю о современных технологиях. Назову я эту серию "Технологии против людей". Из названия уже понятно, что я негативно оцениваю интегральный эффект современных технологий. От них много пользы, но гораздо больше вреда, к сожалению. Страдают отдельные люди, климат, макроэкономика, надежды на прочный мир.

Итак, "Технологии против людей", выпуск 1.

Для затравочки у нас свежее журналистское расследование того, как на складах Амазона ежедневно калечатся люди. Амазон - второй по величине работодатель США. Гордится высокой скоростью доставки товаров. Но за эту скорость работники Амазона расплачиваются собственным здоровьем. Приводится история женщины, которая за пару месяцев работы на складе стерла межпозвоночные диски, стала "непригодна" для работы в Амазоне и теперь сидит дома без работы и денег, не в состоянии даже полноценно передвигаться.

На вопрос, почему в Амазоне серьезных производственных травм происходит сильно больше, чем в среднем по сектору, менеджмент отвечает с удивительным цинизмом. Якобы в Амазоне очень высокие стандарты. И лучше перебдеть, чем недобдеть. Лучше заявить о большем количестве травм на производстве, чем есть на самом деле, нежели проглядеть какое-то их количество.

Но расследование говорит об обратном: Амазон скрывает травмы на производстве, а также препятствует получению сведений о задокументированных травмах.

Очень рекомендую отчет к прочтению. Там и о подкупе чиновников, и о давлении на менеджеров, отвечающих за безопасность, и много чего еще.

Но что бросается в глаза в контексте именно технологий, так это то, что количество производственных травм выросло с момента роботизации производства. Происходит это потому, что людей либо втягивают в конкуренцию с роботами, либо ставят на один конвейер с ними. Если грузчику раньше товары подносили другие люди, то ему хоть и было тяжело, но он справлялся. Сейчас же товары подносят роботы, и делают они это значительно быстрее, чем люди. У людей, стоящих на одном конвейере с роботами, производственные цели тоже стали, как у роботов. Амазоновские сотрудники проходят инструктаж (но не все и не всегда) и знают, как правильно работать с грузами. Но циничная реальность такова, что следовать инструктажу они не могут. На каждую операцию отводится ничтожное количество времени, которое не позволяет выполнить эту операцию без вреда для здоровья. Все операции отслеживаются в реальном времени (еще один привет от технологий), и если работник отстает от нечеловеческих нормативов, то его увольняют.

Итак, как мы к этому пришли и есть ли у нас другой выбор? Выбор, конечно же, есть. Технологии не возникают из неоткуда и, вообще говоря, с точки зрения производства, бывают двух видов: "хорошие" и "плохие". Хорошие увеличивают производительность и создают рабочие места. Плохие - замещают людей на рабочих места. И это выбор людей, какие технологии развивать. Почему же выбираются "плохие"?

Ответов существует множество. Но на мой взгляд, все они указывают на одну и ту же фундаментальную проблему. Что топ-менеджмент корпораций говорит о целях своих компаний? Это всегда одно и то же. Что-то типа "изменить мир к лучшему через ..." И далее следует упоминание области деятельности компании.

Названная цель - лицемерное вранье (но тем чувакам не привыкать). Действительная цель топ-менеджмента - заработать денег для бенефициаров. Тогда бенефициары поделятся этими деньгами с топ-менеджерами. Например, совет директоров одобрит выплату им премий. Также совет директоров одобрит продление полномочий этих перцев на новый срок.
Проблема в том, что в парадигме сегодняшнего дня сотрудники компании не рассматриваются как ее бенефициары. Речь идет только о владельцах акции, а им нужна мгновенная прибыль. Которую проще получить за счет сокращения издержек, в том числе в результате замещения людей машинами. Отсюда интерес и инвестиции в "плохие" технологии. Хорошие же технологии требуют более серьезных инвестиций в R&D, более долгосрочного R&D, а также инвестиций в обучение сотрудников. Это крупные и долгоиграющие расходы. Они окупаются, однако акционеров надо радовать каждый квартал. Долгосрочные же инвестиции наоборот огорчат держателей акций.

Решение очевидно. Точнее одно из решений. Сотрудники компаний должны рассматриваться как ее полноценные бенефициары. Если новые технологии угрожают сокращением рабочих мест или снижением зарплаты, то компания не должна в них инвестировать. Наоборот: компания должна инвестировать в развитие персонала. Как ни странно, во времена сильных профсоюзов так и было. На текущий же момент возможность влиять на стратегию развития компании утрачена как на уровне самих работников, так и на уровне государства.

Новости высоких технологий

Лето - время, когда журналисты пишут про котиков. Потому что интересного происходит мало, а котики есть всегда.

Но вот нынешнее лето, кажется, исключение. Сводок с фронта высоких технологий приходит столько, что их не то, что читать, закладки на них ставить не успеваешь.

Несколько инетерсных новостей с прошлой недели:
1) ислледователи обнаружили, что при распознавании картинок нейросети, обученные традиционными методами, опираются не на формы объектов, а на текстуры. И если изображению кошки придать текстуру слоновьей кожи, то нейросеть распознает на картинке не кошку, а слона. Исправить это недоразумение можно просто. Достаточно обучать сеть с помощью картинок, на которых объекты покрашены в нетрадиционные текстуры. Тогда сеть абстрагируется от текстуры и начинает запоминать формы
https://www.quantamagazine.org/where-we-see-shapes-ai-sees-textures-20190701

2) впервые количество участников крупного протеста посчитали с помощью искусственного интеллекта. Речь об июльском протесте в Гонконге. Полученную оценку сравнили с оценкой полиции (очень низкой) и оппозиции (очень высокой). В Гонконге оказалось, что полиция была сильно ближе к истине, чем оппозиция.
https://www.nytimes.com/interactive/2019/07/03/world/asia/hong-kong-protest-crowd-ai.html

3) американские военные научились идентифицировать людей по биению их сердца. Утверждается, что сердечный ритм уникален, стабилен, и его почти невозможно сфальсифицировать. В отличие от внешности, например. Для измерения особенностей ритма используется инфракрасный (то бишь невидимый) лазер. Измерения можно делать с большого расстояния. Такая вот стрёмная технология.
https://www.technologyreview.com/s/613891/the-pentagon-has-a-laser-that-can-identify-people-from-a-distanceby-their-heartbeat/

4) спутниковая съемка становится все более доступной. В статье приводится много интересных неожиданных примеров использования спутниковых снимков. Проблема в том, что технология дает большой простор для людей с плохими намерениями. А иногда и хорошие намерения имеют плохие последствия. Приводится пример того, как правозащитная организация в заботе о людях опубликовала спутниковый снимок, и это привело к гибели людей.
Много мыслей по поводу охраны свобод людей. Указывается, что современное законодательство давно устарело. Оно ориентировано на защиту прав отдельных людей. А в современных условиях уже нужно говорить о защите групповых прав. "You can be entirely ethical about personally identifiable information and still kill people".
https://www.technologyreview.com/s/613748/satellites-threaten-privacy/

А что такое "геномика"?

Полтора месяца назад, благодаря своему посту на Хабре, узнал, что две трети людей не знают, что такое геномика. (Точности ради, отметим, что это все-таки не 2/3 случайных людей, а 2/3 посетителей Хабра).

Меня это тогда немного удивило. Потому что геномика - это, в некотором роде, мэйнстрим. Причем само слово вряд ли можно отнести к отраслевой терминологии. Поэтому его распространение не должно ограничиваться только кругом специалистов.

Сейчас читал заметку в MIT Technology Review, и оказалось, что некий коллектив исследователей обратил внимание на "геномику". Используя данные Гугла, они пришли к тому же результату, что и я с помощью своего опроса.

А согласно их теории, подобные ситуации возникают, когда те, кому геномика важна и интересна, стремятся общаться только с единомышленниками. Такая вот песня...


А вот ссылка на заметку в MIT Technology Review: https://www.technologyreview.com/s/601298/why-beneficial-epidemics-spread-more-quickly-than-harmful-ones/