Les ingénieurs logiciels de Samsung arrêtés pour avoir collé du code propriétaire dans ChatGPT

Plusieurs employés de l'entreprise coréenne de semi-conducteurs de Samsung ont branché des lignes de code confidentiel dans ChatGPT, divulguant ainsi des secrets d'entreprise qui pourraient être inclus dans les futures réponses du chatbot à d'autres personnes dans le monde.

Un employé a copié le code source bogué d'une base de données de semi-conducteurs dans le chatbot et lui a demandé d'identifier un correctif, selon The Economist Korea. Un autre employé a fait de même pour un autre équipement, demandant une « optimisation du code » à ChatGPT. Après qu'un troisième employé ait demandé au modèle d'IA de résumer les notes de réunion, les dirigeants de Samsung sont intervenus. L'entreprise a limité l'invite de chaque employé à ChatGPT à 1 024 octets.

À peine trois semaines plus tôt, Samsung avait levé l'interdiction faite aux employés d'utiliser ChatGPT en raison de préoccupations concernant ce problème. Après les récents incidents, il envisage de rétablir l'interdiction, ainsi que des mesures disciplinaires à l'encontre des employés, indique The Economist Korea.

"Si un accident similaire se produit même après que des mesures d'urgence de protection des informations ont été prises, l'accès à ChatGPT peut être bloqué sur le réseau de l'entreprise", lit-on dans une note interne. "Dès que le contenu est saisi dans ChatGPT, les données sont transmises et stockées à un tiers externe. serveur, ce qui rend impossible pour l’entreprise de le récupérer.

Le guide de l'utilisateur d'OpenAI met en garde les utilisateurs contre ce comportement : "Nous ne sommes pas en mesure de supprimer des invites spécifiques de votre historique. Veuillez ne partager aucune information sensible dans vos conversations." Il indique que le système utilise toutes les questions et tous les textes qui lui sont soumis comme données de formation.

L'utilisation de ChatGPT pour rechercher et corriger du code bogué est devenue omniprésente dans le génie logiciel. Si les utilisateurs posent une question de codage, il tente d'identifier la solution et fournit un extrait de code avec un bouton copier-coller en un clic. Les connaissances en codage du chatbot sont apparemment suffisantes pour qu'il soit embauché chez Google en tant qu'ingénieur débutant.

Cela peut remplacer le temps (parfois des heures) que les ingénieurs passent à surfer sur des sites comme Stack Overflow, une ressource populaire pour le dépannage. En témoignage des taux d'utilisation élevés de ChatGPT par les ingénieurs logiciels, Stack Overflow a interdit les réponses générées par ChatGPT quelques jours seulement après sa publication le 30 novembre 2022 en raison de préoccupations concernant des réponses inexactes qui semblent crédibles.

"Le principal problème est que même si les réponses produites par ChatGPT ont un taux élevé d'erreurs, elles semblent généralement bonnes et les réponses sont très faciles à produire", déclare Stack Overflow dans un article mis à jour il y a quatre jours. "Le volume de ces réponses (des milliers)... a effectivement submergé notre infrastructure de conservation de qualité basée sur le volontariat."

Samsung envisagerait de créer sa propre IA pour éviter de futurs incidents, même si les ingénieurs pourraient probablement contourner toute mesure en utilisant ChatGPT sur des appareils personnels. Microsoft Bing et Google Bard peuvent également détecter des bugs dans les lignes de code, donc interdire ChatGPT n'est pas une solution à toute épreuve.

Inscrivez-vous pour les nouveautés maintenantpour recevoir nos meilleures histoires dans votre boîte de réception chaque matin.

Cette newsletter peut contenir des publicités, des offres ou des liens d'affiliation. L'abonnement à une newsletter indique votre consentement à nos conditions d'utilisation et à notre politique de confidentialité. Vous pouvez à tout moment vous désinscrire des newsletters.

Votre abonnement a été confirmé. Gardez un œil sur votre boîte de réception !