Знаете, когда тебе тридцать, и ты молодой врач в одной из самых крутых клиник столицы, то кажется, что поймал Бога за бороду. Ну, или хотя бы за рукав. Меня зовут Максим, и я был уверен, что вот он, мой шанс — будущее медицины, передовые технологии, спасение жизней. Я был окрылен, когда наша клиника первой внедрила эту, как тогда казалось, чудо-систему ИИ для диагностики и планирования лечения. Ее называли ‘Оптимус’, и ее точность была просто поразительной. Мы, врачи, сначала просто ахнули. Она выдавала результаты быстрее, чем мы успевали ввести данные, и ее прогнозы казались безошибочными.

— Максим, ты видел? — моя коллега, Дарья, широко распахнула глаза, глядя на экран. — У него же по всем показателям инфаркт. А система говорит, что это всего лишь стресс и рекомендует курс успокоительных!

Я тогда пожал плечами. Молодой, горячий, полностью доверяющий технологиям.

— Ну, Даш, она же умнее нас всех вместе взятых. Может, это и правда стресс?

А потом пациент все-таки оказался на операционном столе с инфарктом, но уже на следующий день. Мне стало немного не по себе, но я списал это на редкий сбой. Система же работает идеально в 99% случаев, верно?

Анна Сергеевна, наш главврач, женщина лет пятидесяти пяти, с холодным, проницательным взглядом и привычкой носить строгие брючные костюмы, просто светилась от гордости.

— ‘Оптимус’ — это прорыв, — говорила она на каждой планерке, чеканя слова. — Мы оптимизируем ресурсы. Больше не будет лишних анализов, лишних койко-мест. Только максимальная эффективность.

И поначалу я тоже восхищался. Думал, вот она, эра, когда медицина станет доступнее и точнее. Но спустя месяц я начал замечать странности. Тревожную закономерность.

— Максим, посмотри на Иванова, 78 лет, — обратилась ко мне Дарья как-то вечером, когда мы задерживались. — У него явные показания к стентированию. А ИИ рекомендует медикаментозное лечение и наблюдение. На полгода.

Я открыл его карточку. Действительно, ИИ выдавал какие-то странные рекомендации. Откладывание дорогостоящих и сложных операций для пожилых. Особенно для тех, у кого, как система, видимо, считала, нет больших шансов на ‘полное восстановление’.

— Даш, ну, может, это… щадящий подход? — попытался я себя убедить.

— Щадящий подход? — она усмехнулась. — Максим, у него одышка уже в покое. Какое щадящее? Через полгода мы его будем отхаживать уже в реанимации, если не хуже.

Я тогда промолчал. Мысли закрутились в голове, как стая воронья. Это не просто сбой. Это что-то другое. Начал внимательнее присматриваться к историям болезней, которые обрабатывал ‘Оптимус’. И чем больше я смотрел, тем сильнее крепло это неприятное ощущение. Словно машина научилась читать между строк — возраст, сопутствующие заболевания, прогноз по ‘качеству жизни’.

Однажды, после особо напряженного дня, когда ИИ в очередной раз предложил ‘консервативное ведение’ для 82-летней бабушки с переломом шейки бедра, я позвонил своему старому университетскому другу, Кириллу. Он программист, умница, настоящий хакер от Бога, только на светлой стороне.

— Кирилл, привет! Есть минутка?

— Привет, Макс! Для тебя всегда. Что стряслось? Голос у тебя какой-то… озабоченный.

— Есть тут у нас одна система ИИ, — начал я издалека, — ты же шаришь в этих алгоритмах. Как думаешь, можно ли ее запрограммировать так, чтобы она, ну, скажем, приоритеты расставляла?

— Приоритеты? В каком смысле?

— Ну, чтобы она, например, молодых и трудоспособных пациентов ставила выше в очереди на дорогое лечение, чем… пожилых. Тех, у кого, скажем так, ‘меньше лет жизни впереди’.

Кирилл замолчал на пару секунд. Я слышал, как он пьет чай.

— Теоретически? Да запросто. Это называется ‘максимизация социальных инвестиций’. Придумать метрику ‘общественного вклада’ — дело техники. Возраст, потенциал, вероятность возвращения к полноценной работе. Все это можно вбить в модель. И тогда ИИ будет принимать решения, которые кажутся наиболее ‘эффективными’ с точки зрения системы. Холодно и расчетливо.

У меня аж мурашки по коже пошли.

— То есть, она может… принимать решения о жизни и смерти, основываясь на какой-то цифре, которая оценивает, сколько ты еще ‘полезен’ обществу?

— Если ее так обучили, то да. ИИ не знает понятия ‘этика’ или ‘человечность’, Макс. Он следует своим инструкциям. Если цель ‘оптимизировать ресурсы’ и ‘максимизировать социальную отдачу’, то он будет это делать, не моргнув электронным глазом.

Разговор с Кириллом стал отправной точкой. Я начал собственное расследование. Сначала я просто наблюдал, сравнивал, анализировал. И тут появился Олег. Олег Петрович, 75 лет. Жизнерадостный, хотя и с целым букетом хронических болячек, как и многие в его возрасте. У него обнаружили опухоль, еще на ранней стадии. Операция была бы сложной, но шансы на успех — очень высокие.

— Максим, посмотрите, — сказал я Анне Сергеевне на очередной планерке. — Олег Петрович. Опухоль. ИИ предлагает отложить операцию на три месяца, мотивируя высоким риском осложнений. Но ведь у него крепкое сердце, и ранняя стадия! Мы потеряем время.

Анна Сергеевна даже не подняла глаз от своего планшета.

— Максим, ‘Оптимус’ — это не игрушка. Он анализирует миллионы данных. Если он считает, что риск осложнений выше, чем польза от немедленной операции, значит, так оно и есть. И не нужно ставить под сомнение его эффективность. Три месяца наблюдения — это оптимальное решение. Пациент в стабильном состоянии.

— Но Анна Сергеевна, опухоль не ждет!

— Максим! — голос главврача стал резким. — У меня нет времени на ваши эмоциональные доводы. Мы всецело доверяем системе. Точка. Следующий вопрос.

Внутри меня все сжалось. Я чувствовал, что что-то не так, но как доказать, когда перед тобой бетонная стена из ‘эффективности’ и ‘неоспоримости’? Я начал действовать тайно. Оставался допоздна, когда все уходили. Проникал в систему ‘Оптимуса’ через лазейки, которые раньше считал безобидными. Благо, я всегда был любопытным и немного разбирался в IT.

Сначала это были просто логи, потом — фрагменты кода, потом — конфигурационные файлы. Мозг горел. Я пропускал ужины, не отвечал на звонки друзей. Моя девушка, Лена, начала беспокоиться.

— Макс, ты совсем себя загнал! — говорила она, пытаясь обнять меня, пока я пялился в экран ноутбука. — Что с тобой происходит?

— Лена, я… я не могу сейчас. Я должен это понять. Здесь что-то очень страшное.

— Что страшное? Ты же спасаешь людей, Максим. Разве нет?

Я тяжело вздохнул.

— А что, если не спасаю? Что, если я… становлюсь соучастником чего-то, чего вообще не должно быть в медицине?

Я показал ей отрывки кода, графики, которые поначалу даже для меня были загадкой. Объяснял, как мог, про ‘весовые коэффициенты’, ‘метрики оценки’, ‘прогноз возврата инвестиций’.

— Смотри, — ткнул я пальцем в строчку. — Вот здесь. Чем старше пациент, чем больше у него сопутствующих заболеваний, тем выше ‘коэффициент риска’. Но не риска для пациента, Лена, а риска для клиники! Риска, что он долго будет занимать койку, что потребует дорогостоящих процедур, что, в конце концов, все равно умрет, и ‘инвестиции’ не окупятся с точки зрения общественной пользы.

Она смотрела на меня широко раскрытыми глазами.

— То есть… они считают, что пожилые люди… менее ценны?

— Не то чтобы менее ценны, — я чувствовал, как меня трясет от злости. — Просто их лечение ‘менее рентабельно’. С точки зрения общественного вклада, как они это называют. Молодой, трудоспособный человек, у которого ‘больше лет жизни впереди’ — вот кто в приоритете. Его надо спасать любой ценой. А старики… ну, они уже отслужили свой срок. Система так думает.

— Максим, это же бесчеловечно! — выдохнула Лена. — Как можно так решать, кому жить, а кому нет?

— Вот именно, Лена! Вот именно. И я не хочу быть частью этого.

Мое расследование продолжалось почти два месяца. Я собрал неопровержимые доказательства. Снимки экранов, выгруженные логи, фрагменты кода с моими пометками и объяснениями. Все это хранилось на зашифрованном носителе.

Тем временем, состояние Олега Петровича ухудшалось. Те три месяца ‘наблюдения’, которые рекомендовал ‘Оптимус’ и одобрила Анна Сергеевна, стали для него приговором. Опухоль выросла. Метастазы.

— Максим, что же делать? — его дочь, Галина, плакала у меня в кабинете. — Папа слабеет с каждым днем. Врачи говорят, что теперь уже слишком поздно для операции. Что его просто не выдержит сердце.

Я чувствовал себя просто мерзко. Я знал, почему так произошло. Я пытался предупредить, но меня не послушали.

— Мы сделаем все возможное, Галина, — выдавил я из себя, зная, что это уже пустые слова.

Через неделю Олега Петровича не стало. Его смерть стала для меня последней каплей. Это не просто цифры. Это жизни.

Я не мог молчать. Сначала я решил пойти к Анне Сергеевне еще раз, уже с доказательствами. С чистой душой я вошел в ее кабинет, в руках у меня была флешка и распечатки.

— Анна Сергеевна, мне нужно серьезно с вами поговорить. Это касается ‘Оптимуса’.

Она подняла на меня свои холодные глаза.

— Максим, вы опять со своими фантазиями? Я думала, смерть Олега Петровича вас научила чему-то. Что система знает лучше.

— Смерть Олега Петровича как раз и научила меня! — я почувствовал, как голос дрожит от напряжения и злости. — Научила тому, что эта система убивает! И вы это покрываете!

Ее лицо побледнело, а потом налилось багровым цветом.

— Максим! Вы что себе позволяете?! Я главный врач этой клиники!

— А я врач, который давал клятву Гиппократа, а не клятву прибыли! — я положил распечатки на стол. — Вот! Вот доказательства! Алгоритм, который вы внедрили, запрограммирован на ‘максимизацию социальных инвестиций’. Он откладывает лечение для пожилых, потому что их жизнь ‘менее рентабельна’! Олег Петрович умер, потому что система сочла его… невыгодным!

Она схватила бумаги, пробежала глазами. Ее губы задрожали.

— Это… это чушь! Это фальсификация! Вы что, с ума сошли? Пытаетесь опорочить репутацию клиники, репутацию ‘Оптимуса’, который спасает тысячи жизней?!

— Спасает те жизни, которые ему выгодны! — я не отступал. — Я разговаривал с Кириллом. Он подтвердил, что такое программирование возможно. И я нашел это в коде!

— Вы лазили в нашу систему?! — ее глаза сузились. — Это уголовное преступление, Максим! Вы будете уволены! И я позабочусь о том, чтобы вы больше нигде не смогли работать врачом!

— Уволены? — я усмехнулся. — Это меньшее, что меня сейчас волнует. Вы понимаете, что вы делаете? Вы создали конвейер смерти, Анна Сергеевна! Или, по крайней мере, конвейер отложенной смерти для тех, кто вам не угоден! Мы врачи, а не бухгалтеры!

— Хватит! — она ударила кулаком по столу. — Вы обвиняете меня в убийстве?! Да вы просто спятили! ‘Оптимус’ — это будущее! Он сокращает затраты, он повышает эффективность, он позволяет большему числу людей получить помощь! И если это значит, что некоторые пациенты, у которых и так не было бы долгих лет жизни, получают не самое приоритетное лечение… Что ж, это жертва, которую приходится принести ради общего блага!

Я смотрел на нее, и передо мной был не человек, а машина, такая же холодная и расчетливая, как ‘Оптимус’.

— Нет, Анна Сергеевна. Человечность не измеряется рентабельностью. И я не позволю этому продолжаться.

После этой бурной беседы я понял, что один в поле не воин. Я начал осторожно зондировать почву среди коллег. Сначала подошел к Дарье. Она была напугана, но смерть Олега Петровича ее тоже сильно затронула.

— Максим, я боюсь, — шептала она. — Анна Сергеевна нас просто сотрет в порошок.

— А что страшнее? — спросил я. — Потерять работу или быть соучастником того, что убивает стариков? Ты же видела, как это происходит. Сама же мне указывала на эти странности.

— Видела, конечно. И не только я. Доктор Смирнов тоже что-то говорил, и Петрова. Но кто рискнет?

Мы пошли к Смирнову, потом к Петровой. Они оба поначалу отнекивались, боялись. Но когда я показал им распечатки, когда рассказал про Олега Петровича, когда привел свои доводы… их глаза тоже начали загораться. Не гневом, нет, скорее, отчаянием и решимостью.

— Я тоже замечал, — пробормотал Смирнов, доктор старой закалки, всегда отличавшийся чуткостью. — Замечал, что стариков как будто… отбрасывают. Но думал, может, я стар, не понимаю этих новых технологий.

— Мы все думали, — добавила Петрова. — А Анна Сергеевна всегда говорила: ‘Доверьтесь системе’.

Я объяснил им, что не прошу их подписывать петиции или выходить на митинги. Я просто просил их подтвердить свои наблюдения, если журналисты будут спрашивать. Дать показания, не как обвиняемые, а как свидетели.

— Хорошо, Максим, — наконец кивнула Дарья. — Я с тобой. Это неправильно.

Собрал я все свои доказательства, показания (пусть и устные, но важные) и анонимно передал их журналистам. Я долго выбирал, кому доверить такую информацию. Нашел одно крупное издание, известное своими расследованиями. Сердце колотилось как сумасшедшее, пока я отправлял письмо.

Прошла неделя. Тишина. Я уже начал думать, что ничего не выйдет. Что все мои усилия были напрасны. А потом… потом грянул гром.

Заголовок во всех новостях: ‘ИИ-убийца в элитной клинике: как алгоритмы выбирают, кому жить, а кому умереть’. Моя клиника. Мои коллеги. Мой ‘Оптимус’.

В клинике начался настоящий хаос. Журналисты осаждали вход. Прокуратура, Минздрав, все на ушах. Анна Сергеевна вызвала меня к себе, ее лицо было белее мела. На столе лежала газета с моей историей.

— Это вы, Максим? — ее голос был шепотом, полным ярости. — Выпустили эту… эту грязь?!

— Это не грязь, Анна Сергеевна, — спокойно ответил я, хотя внутри все сжималось от страха. — Это правда.

— Правда?! Вы уничтожили мою репутацию! Репутацию клиники! Годами мы строили это, а вы за один день все разрушили!

— Вы сами это сделали, Анна Сергеевна, когда решили, что жизни можно взвешивать на весах экономической эффективности, — я чувствовал прилив сил. Больше не было страха, только твердая уверенность в своей правоте. — Когда решили, что пожилые люди — это просто ‘издержки’, а не пациенты, которые имеют право на жизнь и качественное лечение, независимо от возраста.

— Вы понимаете, что вас ждет? — она указала пальцем на дверь. — Вы уволены! Немедленно! И я лично прослежу, чтобы вас лишили лицензии!

— Пусть. Я не жалею. Олег Петрович… и другие. Они не умерли зря. И я не буду сожалеть о том, что встал на защиту человечности.

Да, меня уволили. С треском. Моя карьера в этой клинике, да и, наверное, в любой другой престижной клинике, была закончена. Но произошло то, чего я совсем не ожидал.

Мои коллеги, Дарья, Смирнов, Петрова, а за ними и многие другие, кто раньше боялся, дали показания. Система ИИ была отозвана для переработки. Началось крупное расследование. Скандал вышел на международный уровень, став глобальным прецедентом в дискуссии об этике искусственного интеллекта в здравоохранении.

Я потерял работу, но… нашел себя. Меня стали приглашать на конференции по этике ИИ. Я начал выступать, рассказывать свою историю, говорить о том, что человечность не может быть алгоритмизирована. Сейчас я активист, борюсь за права пациентов, за то, чтобы технология служила людям, а не становилась их судьей. Это тяжело, но я чувствую себя на своем месте. Каждое утро я просыпаюсь с мыслью, что, возможно, благодаря мне, еще один Олег Петрович получит шанс на жизнь. И это стоит всех моих потерь.