ótima oferta – shutterstock.com
A segurança-Anbieter Netcraft fundiu recentemente, dass wöchentlich Tausende von Websites identificados wurden, o KI-generierte Inhalte verwenden. No final de julho, o Zahl der Websites surgiu e foi ele quem esteve no primeiro mês de agosto, antes de sie wieder yakwila.
Netcraft-Forscher führten dies auf einen einzelnen Trehungsakteur zurück, der gefälschte Shopping-Siten enrichtete and generative KI (GenAI) zum Schreiben von Produktbeschreibungen verwendete.
Bösartige Inhalte immer versifkender
“Dies hat zu einer Fülle bösartiger Websites geführt, die Opfer nicht nur wegen der schieren Menge an Inhalten anlocken, sondern auch, weil diese Inhalte immer versifkender werden”, erklären die Sicherheitsexperbeistrag in ihr
Mittlerweile não é mais fácil, um site tem um e-mail como um serviço sério, mas você pode usar profissionais especializados. Você pode encontrar o Anhaltspunkte für Betrüger der E-mail ou site. Wie Netcraft einstlich, fügen Threatungsakteure manchmal verzehentlich Frase von Large Language Models (LLM) in the bestrügerischen E-Mails ein. Então procure Phishing-E-Mail, Phishing-E-Mail, phishing einen Link zu einem Dateitransfer von Familienfotos enthielt, como a frase “Claro! Aqui estão mais 50 frases para uma foto de família”.
O Forscher vermuten, dass the Threatungsakteure, the ChatGPT zur Generierung des E-Mail-Texts verwendenten, die Einleitungszeile verzehentlich in her Zufallsgenerator aufgemenen haben. “Dieser Fall sai Eine Kombination ou GenAI e Traditional Techniken hin.”
Você pode encontrar temas atuais e informar sobre segurança cibernética? Unser kostenloser Newsletter liefert Ihnen alles, was Sie wissen müssen.
Verräterische Beweise for Phishing-E-Mails
Um outro e-mail de phishing, que a Netcraft investigou, foi glaubwürdig gewesen – stünde da nicht der Satz am Anfang, der die LLM-Einleitungszeile enthielt: “Claro, aqui está sua mensagem traduzida para o inglês profissional.” E um site de investimento gefälschte, a Prostelle des falschen Unternehmens anpreist, sah real aus, wenn man von der Überschrift absieht, die besagt: “Claro! Aqui estão os seis pontos fortes mais importantes da Cleveland Invest Company”.
“Genauso wie Kriminelle gerne Anmeldedaten von anderen Phishing-Seiten abgreifen, haben wir bebeuchtt, dass sie, wenn sie eine versichtende, von LLM generierte Vorlage finden, den Inhalt fast wortwörtlich”, então die kopielysten.
Deve-se, portanto, notar que o texto do Cleveland Invest-Website (komplett mit LLM-Antwort) von einem andereen gefälschten Text gefernde, der für Britannic Finance erstellt wurde. Neste outono, o conhecimento de ameaças dann ein LLM zu verwenden, um den Ubsku anzupassen und Synonyme für einige Begriffe zu verwenden.
A Netcraft tem muitos sites gerados por LLM para gerenciamento de negócios e pesquisas, que para otimização de máquinas (SEO) são necessários, mas há mais opções de anzulocken. Escolha o site oficial, ou die Antwort des LLM ou die Anfrage durchgesickert war, geschuleit von “diese Übersicht sollte Ihnen einen guten Começar de novo …”, e einer Erinnerung, SEO-Schlübernd schlüden schlüden üsselwörft üsselwörter üsselwörter üsselwörter hmen .
E tudo o que acontece é que o Spitze é um dos maiores Eisbergs. “Der Bericht spricht nur einen Bereich der Cyberbedrohung an, der durch generative KI-Fähigkeiten erweitert wird: o primeiro Zugang zu einem Opfer, em particular durante phishing”, disse Brian Jackson, Diretor Chefe de Pesquisa do Info-Tech Research Group.
“Leider ist das nur ein kleiner Teil des gesamten Spektrum der erweiterten Threatungen, die wir dank LLMs beobachten”, disse Jackson. “Obrigado LLMs werden ganz neue Taxonomien von Cyberbedrohungstechniken hinzugefügt.”
Gefahr durante LLMs
LLMs foram usados para um estudo de caso, uma transferência de materiais e materiais potenciais e opções potenciais para obter e usar. “OpenAI tem staatlich gesponserte Konten für genau diese Zwecke gespert”, acrescentou Jackson. “Dann gibt é noch den Versuch, LLMs selbst durch Prompt Injection e Jailbreak auszunutzen. Er weist auf aufsichtliche Liste of Techniken im MITRE ATLAS.
Este deck é com o Erkenntnissen da Netcraft. “Es gibt noch viele weitere Beispiele mit schlüssigen Beweisen, die auf den groß angelegten Einsatz von LLMs in subtileren Angriffen hintweisen”, heißt está no Beitrag. “Die Sicherheitsimplikation dieser Ergebnisse ist, dass Organizationen wachsam bleiben müssen; O texto do site, que é escrito em inglês profissionalmente, não é um indicador mais rigoroso para sua legitimidade. Da GenAI é einferner macht, Menschen auszutricksen, werden technische Maaschen wie das Blockieren und Entfernen von Inhalten immer ichternier, um Einzelpersonen und Marken zu schützen.”
Jackson acrescentou: “Aus meiner Sicht sind es nicht die gleichen alten Trethungen, die durch KI erweitert werden, die am alarmierendsten sind.” Wir haben bereits Techniken entwickelt, um dieese zu entschärfen. Vielmehr sind es die völlig neuen Cyberbedrohungen durch generative KI, die Unternehmen wirklich überraschen könnten.”
O especialista em pesquisa disse: “Wie wir bereits gesehen haben, erwarten die meisten von uns, dass wir, wenn uns eine Führungskraft nge video anruft, darauf vertrauen können, dass es sich wirklinsgil dies Angle. “Doch das ist nicht mehr der Fall, generative KI mit abeligten Trainingsdaten effektiv Fälschungen erzeigen kann.” (jm)
