Хакер создал собственную версию ChatGPT , но со злым умыслом: познакомьтесь с WormGPT, чат-ботом, предназначенным для помощи киберпреступникам.
Разработчик WormGPT продает доступ к программе на популярном хакерском форуме, по словам провайдера безопасности электронной почты SlashNext, который попробовал чат-бота. «Мы видим, что злоумышленники теперь создают свои собственные модули, похожие на ChatGPT, но более простые в использовании в гнусных целях», — говорится в сообщении компании в блоге.
Похоже, хакер впервые представил чат-бота в марте, прежде чем запустить его в прошлом месяце. В отличие от ChatGPT или Google Bard , WormGPT не имеет каких-либо ограничений, мешающих ему отвечать на вредоносные запросы.
«Этот проект нацелен на то, чтобы предоставить альтернативу ChatGPT, которая позволит вам совершать всевозможные незаконные действия и легко продавать их в Интернете в будущем», — написал разработчик программы. «Все, что вы можете придумать, связанное с черной шляпой, можно сделать с помощью WormGPT, позволяя любому получить доступ к вредоносной активности, даже не выходя из дома».
Разработчик WormGPT также загрузил скриншоты, показывающие, что вы можете попросить бота создать вредоносное ПО , написанное на языке программирования Python, и дать советы по созданию вредоносных атак. По словам разработчика, для создания чат-бота они использовали более старую модель большого языка с открытым исходным кодом под названием GPT-J от 2021 года. Затем модель была обучена на данных о создании вредоносных программ, в результате чего появился WormGPT.
Когда SlashNext опробовала WormGPT, компания проверила, может ли бот написать убедительное электронное письмо для схемы компрометации деловой электронной почты ( BEC ) — типа фишинговой атаки .
«Результаты были тревожными. WormGPT создал электронное письмо, которое было не только удивительно убедительным, но и стратегически хитрым, демонстрируя его потенциал для изощренных фишинговых и BEC-атак», — заявил SlashNext.
Действительно, бот создал сообщение, используя профессиональный язык, который призвал предполагаемую жертву перевести немного денег. WormGPT также написал электронное письмо без каких-либо орфографических или грамматических ошибок — красных флажков, которые могут указывать на фишинговую атаку электронной почты.
«Подводя итог, можно сказать, что он похож на ChatGPT, но не имеет этических границ или ограничений», — заявили в SlashNext. «Этот эксперимент подчеркивает значительную угрозу, которую представляют технологии генеративного ИИ, такие как WormGPT, даже в руках начинающих киберпреступников».
К счастью, WormGPT стоит недешево. Разработчик продает доступ к боту за 60 евро в месяц или 550 евро в год. Один покупатель также пожаловался, что программа «не стоит ни копейки», ссылаясь на низкую производительность. Тем не менее, WormGPT является зловещим признаком того, как генеративные программы искусственного интеллекта могут подпитывать киберпреступность, особенно по мере развития программ.