Знакомьтесь, патологический фантазер
Ему не нужна фиксированная зарплата, как и ежеквартальные премии, оплачиваемый отпуск, больничные, выходные. Знакомьтесь, это ваш новый коллега - искусственный интеллект, который уже вовсю генерирует причины для вашего увольнения. Единственный минус нейромашины - периодическое вранье, но даже с этим работодатели готовы мириться.
Революция эволюции
Цифровой контент - это новая нефть, а искусственный интеллект - самый быстрый ее добытчик.
- Рано или поздно что-то подобное должно было произойти. Мы с вами стали свидетелями того, как появилась новая технология, которая позволяет создавать контент и обрабатывать терабайты информации. Применение искусственного интеллекта существенно позволило людям сократить объемы затрачиваемых ими сил для придумывания чего-либо: генерирования текстов, создания изображений, производства видео, синтеза музыки и голосов, - констатирует улан-удэнский разработчик мобильных игр Степан Красиков.
Тень искусственного интеллекта уже легла на порог офисов и творческих студий. Боязнь не просто потерять доход, а оказаться ненужным, выброшенным на обочину прогресса заставляет людей смотреть на каждое технологическое новшество с неподдельной опаской. Это больше, чем страх автоматизации, это экзистенциальный ужас перед миром, где человеку может попросту не найтись места.
- Внедрение нейросетей раскололо нашу планету на два враждующих лагеря. Для бизнеса это инструмент гиперэффективности и радикального сокращения издержек, ведь искусственный интеллект не требует зарплаты и социальных гарантий. Но эта рациональность сталкивается с сопротивлением пользователей, которые в каждом таком случае видят двойной минус: очевидную экономию в ущерб качеству и несправедливое лишение людей работы, - говорит опытный программист.
Вполне естественно, что сотрудники с опаской следят за тем, как искусственный интеллект претендует на их рабочее место. Однако эксперты смотрят на ситуацию несколько глубже: «Да, в перспективе алгоритмы смогут заменить множество людей. Парадокс в том, что при этом они создадут для нас нового рода профессии. Нейросеть не способна полностью заменить узкопрофильных специалистов, занимающихся организационными вопросами и прибегающих к сложной мозговой активности. Пока что ее удел - помощник: быстрая генерация черновиков или идей. Но именно это рождает спрос на новых людей, например, промпт-инженеров. Они выступают «переводчиками» между машиной и человеком».
Основная задача промпт-инженеров - сформулировать запрос так, чтобы искусственный интеллект выдал нужный всем результат. Поэтому рынок «живого» труда не исчезает, а трансформируется. Одни профессии уходят в прошлое, чтобы освободить место для других в будущем.
- Либо вы учитесь управлять нейросетями, либо оттачиваете свои навыки до уровня, недоступного искусственному интеллекту. Второй сценарий подразумевает, что вы должны стать попросту незаменимым, - говорит Степан Красиков.
Всемогущий обманщик
Сегодня искусственный интеллект проник уже практически во все сферы жизни, включая и такую консервативную, как медицина: радиологию, нефрологию, гастроэнтерологию, генетическую диагностику, даже в разработку лекарств и пр.
Наука стала тем полигоном, где искусственный интеллект прижился по-настоящему. Исследователи первыми начали массово доверять нейросетям работу с данными - от анализа генома до прогнозирования экспериментов. Но настоящая революция в том, что ИИ стал советчиком даже в самых неожиданных областях. Например, кейс с рыбалкой. Представьте: вы описываете нейросети локацию - реку, время, погоду, а она в ответ выдает четкий и, главное, рабочий гайд по ловле рыбы. Это уже не просто игрушка, а реальный инструмент, который меняет подход к любому хобби или профессии.
ИИ теперь доступен везде, но его ежедневное использование чревато. Ведь главный недостаток нейросетей - склонность к периодическому галлюционированию и генерации ложных сведений. Блогер Мери Калдасс, например, доверилась ответу ChatGPT. Испанка не стала оформлять визу для поездки в Пуэрто-Рико. По итогу женщину сняли с рейса.
- Справиться с бытовым вопросом ИИ под силу, но только если вы сами хорошо понимаете, чего хотите. Нейросеть слепа к контексту. Для нее нет разницы между математическим уравнением и поэмой, если об этом не сказано прямо. Без четкого брифа она не решает задачу, а сочиняет. Это как общаться с патологическим фантазером. Поэтому единственный способ получить адекватный ответ - дать ей максимально подробную формулировку предстоящей задачи, - объясняет разработчик мобильных игр. - Практические каждая нейросеть та еще лгунья, и я на своей шкуре это прочувствовал. Помню, попросил создать презентацию по готовому тексту. Все было красиво, но в одном слайде красовалась незнакомая ссылка. Начал расспрашивать ее про это, а по итогу оказалось, что она выдумала научное исследование, ученого и место его работы.
Специалисты отмечают, что склонность нейросетей к галлюцинациям напрямую связана с перегрузкой контекстом. Чем дольше длится беседа с искусственным интеллектом, тем больше задач в нее «упаковывается». Из-за этого выше шанс, что она начнет путать факты, искажать данные или просто допридумывать их.
- Поэтому каждую очередную задачу лучше всего начинать с нового диалога, - говорит программист.
Предатель среди нас
Отличить творение нейросети от человеческого уже практически невозможно. Особенно когда речь заходит о фото и видео. Всего пару лут назад искусственный интеллект с позором проваливал самые легкие тесты, например, не мог нарисовать руки. Вместо пяти пальцев зрителей ждал сюрреалистический веер из четырех, шести, семи конечностей, а то и вовсе отросток с щупальцами. Сегодня это не так.
- Нейросеть, если можно так выразиться, взяла себя в руки. Проблему с пальцами она наконец-то решила. Теперь ее выдают куда более тонкие несоответствия. Прямо сейчас ахиллесова пята у нее - зубы. Алгоритм хоть и учится на миллиардах изображений, но ему все еще не под силу усвоить, что у каждого человека уникальная улыбка. Поэтому в результате она может сгенерировать видео, где в течение одного монолога зубы у человека трансформируются вновь и вновь: то сливаются в сплошную костяную пластину, то внезапно превращаются в звериные клыки, - разъясняет Степан Красиков. - Но самые забавные артефакты - логические. Представьте, человек что-то говорит на оживленной улице, а за его спиной непрерывно блуждает толпа. И вот вы замечаете, что женщина в красном платье, зайдя за спину говорящего, так и не появляется из-за нее. Просто растворяется в пространстве. Или, что еще более странно, выходит из-за спины уже в зеленой кофте, а то и вовсе трансформируется в мужчину.
Пока что нейросеть не строит целостную реальность, она лишь дорисовывает по отдельности каждый кадр, живущий по своим, весьма причудливым правилам.
- С текстом сложнее. В нем поймать ИИ практически нереально, но все еще остается одна деталь, мелкая грамматическая привычка, которая выдает нейросеть: это символ «тире». Человек по старой привычке, особенно в неформальной переписке, чаще всего ставит обычный дефис или короткое тире. ИИ же, обученный на выверенных текстах, следует строгому правилу, использует длинное тире. В этом смысле машина нас «правильнее», - подмечает Красиков.
Алгоритмы стерли творческие границы. Сегодня абсолютно любой может в несколько кликов сгенерировать музыкальную композицию, видеоролик или даже сценарий для полного метра. А с помощью стандартного набора голосовых моделей еще и профессионально озвучить задуманное.
- Сегодня нейросети научились так точно копировать человеческую речь, что им хватает всего минуты вашего голоса, и вот машина уже говорит словно это вы. Генерация звука вышла на такой уровень, что человек, никогда не сталкивавшийся с искусственным интеллектом, даже не заподозрит подмены. Это уже не синтез, а самая настоящая копия, - разводит руками программист.
Подключи к этому эмоциональный фактор, и потенциальная жертва - в ловушке. Только задумайтесь… Вам звонит незнакомый номер, а в трубке слышите всхлипывающий голос родного ребенка: «Мама, помоги!». В этот момент мозг отключает логику. Вы не станете анализировать тембр или шумы, а сделаете все, что скажут.
- Это значительно меняет правила игры. Теперь под угрозой мошеннических действий не только ваши данные, но и инстинкты. Даже нам, искушенным пользователям, порой сложно с ходу отличить голосовую подделку. Если вслушаться, можно уловить фальшь: неестественные паузы, механистичный тембр или странный эмоциональный окрас. Но в состоянии паники, страха или внезапного потрясения все эти «маячки» просто перестают работать, - констатирует разработчик мобильных игр. - Возьмем, например, дипфейки. Они давно перестали быть развлечением, превратившись в оружие. Я считаю, что когда с помощью нейросетей создают поддельное видео, где человек говорит или делает то, чего никогда не было, это удар ниже пояса. Вообразить можно все что угодно: оскорбление со стороны близких родственников, раскрытие корпоративной тайны коллегой, поддержка скандальной инициативы публичной личностью. Такой контент может разрушить жизнь при полной невиновности героя фальшивого ролика.
Уследить за новостным потоком, увы, невозможно, и именно в этом информационном хаосе дипфейки наносят самый страшный удар. Для публичных людей подобного рода ролики становятся настоящим кошмаром: всего одна умело сфабрикованная запись способна мгновенно разрушить карьеру, строящуюся годами. Однако под ударом может оказаться абсолютно любой.
- Обезопасить себя теперь можно лишь частично. Во-первых, учитесь видеть несостыковки. Во-вторых, информируйте своих близких, - рекомендует Красиков. - Наша главная уязвимость в том, что мы сами становимся соавторами своих дипфейков. Наш цифровой след уже есть повсюду: фото в соцсетях, видео с праздников, записи голоса в мессенджерах. Преступникам даже не нужно нас тайно записывать - мы уже подарили им все, выложив очередное селфи с озвучкой. Поэтому остается только смириться. Доверяй, но проверяй, как говорится.
Наталия Грюнвальд, «Номер один».
