Ещё один прогноз из Терминатора сбылся

14 марта 2023, 10:32

ИИ — это не модная игрушка типа спиннера. Это переломный момент, что-то типа появления автомобиля или смартфона как минимум.
Даже если новые ИИ не станут значительно умнее (а они наверняка станут), наша жизнь изменится кардинально. Свежая новость — мошенники начали массово
имитировать чужие голоса. Теперь американскому пенсионеру звонит не подозрительный незнакомец, а вот прямо лично его сын, говорит, что попал в беду, и
просит перевести денег. Американский пенсионер переводит, — голос-то знакомый, — и банк попадает на деньги. Я пишу «банк», так как в США в таких случаях
банк возвращает деньги пенсионеру. Очень мудрые порядки, к которым, спасибо Эльвире Сахипзадовне, в последние годы движемся и мы.

Криминалист в статье говорит, что речь идёт про «идеальный шторм», так как люди склонны терять бдительность, когда слышат в трубке родной голос.
Однако, думаю, он ошибается, пока что это не идеальный шторм, а всего лишь идеальная рябь на спокойной воде. Идеальный шторм на 9 баллов из 12 ещё впереди.
Потому что следующий очевидный мошенникам шаг — подключить ИИ к массовому обзвону клиентов.

В первый заход ИИ при помощи социальной инженерии собирает максимум информации о собеседнике и делает слепок его голоса.
Во второй заход робот звонит контактам жертвы, подделывая её номер телефона и её голос, и выманивает у них деньги.

И всё это легко масштабируется до любого уровня, хоть до 10 миллионов звонков в день.
Откуда мошенники возьмут ИИ? Ну вот на днях у Марка Цукерберга стянули модель LLaMA-65B на 65 миллиардов параметров.
Теоретически её уровень даже выше, чем у знаменитого ChatGPT, изменившего правила игры.
На практике пока не выше, ибо модель нуждается в тонкой настройке, однако это решаемая задача,
и огромное сообщество любителей машинного обучения уже работает над этим не покладая рук. Модель
уже выложена на торрентах, умельцы уже запускают её на домашних компьютерах — в урезанном виде
на обычных игровых видеокартах, в полном виде — на старых майнинговых фермах. По моим прикидкам,
для запуска LLaMA-65B во всей её мощи нужно или железо стоимостью в миллион рублей, или аренда сервера
за 1000 рублей в день. Вполне доступный для мошенников бюджет.



Некоторые наивные души ставят запрет на приём входящих с незнакомых номеров. Ха! В новой реальности так можно будет защититься разве что от заблудившегося курьера с горячей пиццей. Потому что ИИ позвонит вам не только голосом
вашего брата Николая, но и с его номера телефона. Робот скажет, что ваш племянник Аркадий связался с нигилистами, вляпался в плохую историю, и прямо сейчас нужно 50 тысяч рублей, чтобы его спасти. А
так как вы будете хорошо знать всех действующих персонажей, вам и в голову не придёт усомниться в легенде. Откуда робот будет знать подробности жизни ваших родственников? Ну так он до того позвонит Анечке,
подруге Аркадия,представившись сослуживцем её покойного мужа, и выведает у неё всю нужную информацию, включая номера телефонов. Позвонит Аркадию. Позвонит Николаю.

И от каждого контакта будет получать или новые данные, или слепок голоса для мошенничества, или денежный перевод. До последнего времени мошенников сдерживал кадровый голод и низкий КПД звонков. Умный робот, умеющий подделывать голоса,
устраняет оба препятствия. Один-единственный чёрный девопс, преступник с навыками системного администратора, может теперь развернуть схему любого масштаба. Добро пожаловать в будущее, знаменитая сцена из Терминатора 2 с телефонным разговором стала реальностью в 2023 году.

Обратите внимание на голосовую CAPTCHA, которую дал Терминатор Джону:
- Как зовут собаку?
- Макс!
- Джанель, что там с Вулфи? Я слышу как он лает!
- С Вулфи всё в порядке! (Прокол!)

Как защититься от такого мошенничества на личном уровне — понятно. Перезвонить собеседнику, если он попросит вас сделать денежный перевод или, вообще, будет вести себя странно. Как защититься на уровне своих близких?
Никак. Вы не сможете объяснить друзьям и родственникам, что им надо быть осторожнее. Ваши близкие всё равно будут переводить мошенникам деньги, запускать файл ВЫ_ВЫИГРАЛИ_МИЛЛИАРД.exe и ставить к банковским счетам пароль qwerty123

Как защититься на уровне государства? Вздрючить операторов сотовой связи, чтобы те начали банить мошенников на взлёте, да поработать вместе с банками над ускоренным закрытием каналов мошеннической обналички. Заставить банки и сотовых
операторов вскладчину компенсировать обманутым гражданам 100% потерь. Но не факт, что даже это поможет, так как корень уязвимости заключается в автоматическом применении социальной инженерии, а голосовые звонки на традиционный
телефонный номер — всего лишь один из каналов, которым могут воспользоваться злодеи.

Что реально защитит обывателей, так это ИИ-секретарь, который будет требовать от каждого звонящего представиться по всей форме, через аккаунт на Госуслугах — вот кто-то типа телефонного секретаря Тинькофф, только на основе
современного ИИ и с государственной поддержкой.


Кстати, телефонный секретарь, он же верный слуга, он же близкий друг и хранитель секретов, скоро будет у нас в любом случае — у 95% взрослого населения как минимум, если не у 98%. Как я уже указал выше, наша жизнь изменится
кардинально. Станет ли она от этого лучше или хотя бы безопаснее — большой вопрос.

https://olegmakarenko.ru/2661585.html