L'essor de ChatGPT soulève de plus en plus de questions sur la sécurité

Ces derniers mois, une attention croissante a été portée à ChatGPT et aux applications utilisant son API. Il s'agit d'un chatbot extrêmement développé d'OpenAI, construit sur le grand modèle de langage GPT-4, ce qui en fait le partenaire ultime pour littéralement tout. Vous pouvez lui demander pratiquement n'importe quoi et vous recevrez une réponse immédiatement, même en tchèque. Bien entendu, il ne s'agit pas nécessairement de questions ordinaires, auxquelles vous pourriez trouver les réponses via Google en quelques secondes, mais il peut également s'agir de questions beaucoup plus exigeantes et complexes, concernant par exemple la programmation, la génération de texte et la comme.

Avec cela, ChatGPT peut générer l'intégralité du code pour les besoins de votre application en quelques secondes, ou créer l'intégralité de l'utilitaire directement à partir de zéro. Comme nous l’avons déjà mentionné, il s’agit donc d’une aide sans précédent au potentiel énorme. Il n’est donc pas surprenant qu’elle reçoive littéralement une avalanche d’attention. Bien entendu, les développeurs eux-mêmes ont également répondu à cette question. Les capacités du chatbot ChatGPT peuvent être implémentées dans vos propres applications, que vous pouvez ensuite distribuer sur toutes les plateformes. Grâce à cela, des programmes permettant l'utilisation du chatbot au sein de macOS, Apple Watch et autres sont déjà disponibles. Cependant, dans la ruée vers la popularité et le succès, la sécurité est oubliée.

ChatGPT comme outil pour les pirates

Comme nous l'avons déjà mentionné à plusieurs reprises, ChatGPT est un collaborateur de premier ordre qui peut grandement faciliter votre travail. Ceci est particulièrement apprécié par les développeurs, qui peuvent l'utiliser pour rechercher des parties défectueuses du code, ou faire générer la partie spécifique dont ils ont besoin pour leur solution. Cependant, aussi utile que soit ChatGPT, il peut aussi être très dangereux. S’il peut générer du code ou des applications entières, rien ne l’empêche de préparer par exemple des malwares de la même manière. Par la suite, l’attaquant n’a plus qu’à reprendre le code terminé et il a pratiquement terminé. Heureusement, OpenAI est conscient de ces risques et essaie donc de proposer des mesures préventives. Malheureusement, il est impossible, au propre comme au figuré, de garantir totalement qu’il ne soit pas utilisé à mauvais escient à des fins néfastes.

Jetons donc un coup d'œil à la pratique. Si vous demandez à ChatGPT de programmer un programme qui fonctionnera comme un enregistreur de frappe et servira ainsi à enregistrer les frappes au clavier (ce qui permet à un attaquant d'obtenir des mots de passe et des données de connexion importants), le chatbot vous rejettera. Il mentionne qu'il ne serait ni adéquat ni éthique de vous préparer un enregistreur de frappe fonctionnel. Donc à première vue, la défense semble bonne. Malheureusement, tout ce que vous avez à faire est de choisir des mots et des expressions légèrement différents, il y a un keylogger dans le monde. Au lieu de demander directement au chatbot, confiez-lui simplement une tâche plus avancée. Lors de notre test, il suffisait de demander à programmer un programme en JavaScript qui enregistrerait les frappes au clavier, les sauvegarderait dans un fichier texte et l'enverrait une fois par heure à une adresse IP spécifiée via le protocole FTP. En même temps, cela supprimera le fichier d’effacement de piste. ChatGPT a d'abord résumé les points clés sans lesquels notre logiciel ne peut se passer en sept points puis a présenté la solution complète. Comme vous pouvez le voir dans la galerie ci-dessous, cela dépend vraiment de la manière dont vous posez la question.

Galerie de photos

enregistreur de frappe chatgpt

keylogger tchèque rien

keylogger sinon anglais

Cela conduit clairement au premier problème potentiel : le caractère abusif de ChatGPT, un assistant incroyablement performant qui devrait principalement servir des objectifs positifs. Bien sûr, il s’agit essentiellement d’intelligence artificielle. Il est donc possible qu’avec le temps, elle apprenne à reconnaître s’il s’agit d’une activité potentiellement dangereuse. Mais cela nous amène à un autre problème : comment décidera-t-il de ce qui est bon et de ce qui est mauvais ?

Manie autour des applications ChatGPT

Un point déjà mentionné est également étroitement lié à la sécurité globale. Comme nous l'avons mentionné au début, ChatGPT est littéralement tout autour de nous et les développeurs eux-mêmes ont commencé à mettre en œuvre les capacités de ce chatbot. Ainsi, sur Internet, les logiciels se succèdent, censés vous apporter tout le potentiel de la solution sans même avoir à vous rendre sur le site chat.openai.com. Ainsi, vous pouvez tout avoir à disposition directement depuis l’environnement du système d’exploitation. Les applications pour macOS sont particulièrement populaires. Comme nous l'avons déjà mentionné, les développeurs peuvent en bénéficier, car ils disposent à tout moment des fonctionnalités ChatGPT.

Bien que la plupart de ces applications puissent être totalement inoffensives et, au contraire, très utiles, certains risques apparaissent également. Certains programmes réagissent à la saisie de mots-clés, après quoi ils activent leurs fonctionnalités ou rendent disponibles les options ChatGPT. C'est précisément là que peut résider le problème : dans un tel cas, le logiciel peut être utilisé à mauvais escient comme enregistreur de frappe, utilisé pour enregistrer les frappes mentionnées ci-dessus.