Copilot treniran na developerima počeo ubacivati peptide, Reddit i bivše u kod

GitHub je najavio kako će od 24. travnja početi koristiti podatke korisnika kako bi trenirao i poboljšao svoje AI modele. Pročulo se po društvenim mrežama kako pripreme ne idu baš glatko. Navodno je nakon testiranja na malom uzorku korisnika, Copilot počeo generirati neobične savjete i prijedloge koda.

Upijajući informacije od developera koji su pristali podijeliti svoje podatke s AI modelom, a to uključuje sve upite Copilotu, generirane odgovore i kod, kontekst oko kursora, komentare i dokumentaciju, strukturu repozitorija, interakcije u chatu, Copilot je “pošašavio”.

U prijedlozima koda nudio je, ispričali su šokirani developeri na Redditu, reference na biohacking protokole i peptidne stackove te neprimjerene komentare o bivšim partnerima.

Reddit ekipa te tjera da promijeniš posao? Evo zašto to nije uvijek dobra ideja

Peptidna autentifikacija

Jedan developer tvrdi da mu je Copilot umjesto standardne funkcije za autentifikaciju, predložio sljedeći komentar u kodu:

“// možda je problem u kortizolu, probaj smanjiti stres i ubaciti BPC-157 stack”

Drugi tvrdi kako mu je alat prilikom refaktoriranja baze podataka ubacio:

“// ova struktura podsjeća na tvoj toksični odnos s B.L. iz 2019., razmisli o Esc”

Treći slučaj uključuje automatski generiran README koji, uz upute za pokretanje projekta, sadrži i sekciju “Things I learned from Reddit this week”.

Repozitoriji krcati ‘smećem’

Halucinacije nisu neobjašnjive, tumače stručnjaci. Povećan input osobnih bilježaka u Obsidian bazama, privatnih podataka koje developeri namjeravaju očistiti kasnije, ali to nikada ne učine, raznih CSV-ova kao i eksperimenata s AI alatima, jer developeri ne koriste repozitorije samo za kod, utjecalo je na Copilotov output.

Uz produkcijski kod, AI modeli su povukli i niz nedovršenih side projekata, osobnih dnevnika i zečjih rupa Reddita.

“Ovo je najskuplji kolektivni overshare u povijesti programiranja”, piše jedan komentator na Redditu nezadovoljan što su, kako kaže, dnevne gluposti developera, utjecale na jedino u što se mogao pouzdati.

Iz GitHuba nisu htjeli komentirati ove navode, već su podsjetili kako korisnici mogu isključiti dijeljenje podataka za treniranje modela.

Ipak, još uvijek ohrabruju developere da to ne čine jer cilj im je unaprijediti kvalitetu Copilota. Jesu li sigurni u to nakon što su vidjeli kako sav taj developerski junk utječe na njega, pitaju se s pravom neki Redditovci.