Описывая субъект самоубийства, я показываю разницу позиций социологии и машинного обучения. Эти две практики, будучи близки на чисто техническом уровне – т.е., производя знание, основываясь на статистике, вписаны в мир совершенно по-разному. Важнейшие и сложнейшие проблемы социологии – необходимость дистанции от объекта, опасность вмешаться в исследуемое явление и тем самым испортить данные, сложность измерения и концептуализации общественных явлений и событий – породили огромное количество систем, понятий, идей, не прекращающих искать все лучшие и лучшие способы изучать и понимать общество. Все эти вопросы, и огромный корпус трудов на эти темы, абсолютно неинтересны создателям систем машинного обучения. Дело не в их какой-то необразованности, лени, антиинтеллектуализме. Дело просто в том, что эта социологическая дистанция между изучающим и изучаемым, требующая стольких усилий и сомнений от социолога, машинному обучению совершенно не нужна и противоречит самой его цели.

В отличие от социологии, машинное обучение сразу занимает активную позицию в мире. Его вмешательство в мир не просто один из его эффектов, но одновременно и цель, и часть его метода. Системы, построенные на машинном обучении – в наше время самые крупные из них занимаются рекомендациями, в том числе рекламой и формированием новостной ленты – учится на собственных ошибках, анализируют поступки, которые сами же и совершают. Для социолога сказать кому-то “о, согласно данным, ты рискуешь повеситься” было бы опасным исследовательским промахом; для Амазона продать кому-то мыло и веревку – коммерческим успехом, а сама попытка это сделать – необходимым элементом обучения. Или, ради более частого примера – для Youtube толкнуть подростка в пучины правой идеологии, видео по поводу которых, раз погрузившись, он начнет смотреть взахлеб, будет примером успеха рекомендательного алгоритма просто по самому его определению. Не меняя сути того, что такое, согласно алгоритму, хорошая рекомендация, это алгоритмическое поведение можно откорректировать только разного рода внешними системами, как-то еще корректирующими его оценки согласно каким-то посторонним способом выбранным критериям.

Социолог нарочно дистанцируется от общества. Само понятие “общество” представляет собой некий договор, своего рода сделку: “Я, социолог, отказываюсь от своей власти действовать, я принимаю, что это не я действую, а так называемое общество – и взамен, в той мере, в которой у меня это получается, я получаю доступ к знанию о том, как все эти действия совершаются”. Бог, который был всемогущим и всеведущим, делится социологом на две части: одна, “общество”, оказывается всемогущей причиной всего (и, кстати, теряет свои претензии на самопонимание), а другая, “социология”, обещает всеведение. Чем больше в такого рода сделке человек отказывается от своей свободы, тем больше знания он способен получить. Каждая маленькая область нашей свободы, про которую мы не без боли и ужаса принимаем, что на самом деле она не так уж свободна, дает нам возможность понять ее детерминированность.

Сделка вокруг “искусственного интеллекта” – субъекта, придуманного для разговора о позиции машинного обучения – совершенно противоположна. Его используют для решения каких-то задач, и договариваются, например, так: “Я хочу продавать как можно больше товаров, и я не хочу изучать слишком пристально, почему и как и кто их выбирает, пусть в этом компьютер как-то разберется и продает их, как надо”. Чем лучше машинное обучение внедрено, тем меньше приходится копить собственных знаний о рынке. С тем же неудовольствием, с каким социологам приходится отказываться от свободы ради изучения социологии, эксперты сталкиваются, когда соглашаются заменить свои познания на машинные. Но взамен они получают куда большую власть. Чем меньше дизайнер думает, что он знает, что на самом деле – хороший дизайн, тем больше он может позволить компьютеру пробовать разные варианты. Чем меньше Цукерберг думает, что он что-то на самом деле понимает в настоящей дружбе, тем больше он может позволить его компьютерам дружить людей между собой.

Искусственный интеллект, размывая границу между теорией и практикой, превращая знание о причинах общественных явлений – в их активное производство, является для общества тем же, что для живого организма было бы гниением.