Un caso curioso, e per molti inquietante, ha riacceso il dibattito sull'uso dell'intelligenza artificiale nello sviluppo software: un programmatore, Zach Manson, ha denunciato che GitHub Copilot avrebbe inserito automaticamente un messaggio promozionale all'interno di una pull request su GitHub.
Secondo quanto raccontato, un membro del suo team aveva utilizzato Copilot semplicemente per correggere un refuso. L'IA ha svolto il compito, ma ha anche aggiunto una sorta di "pubblicità" nel testo della pull request, con un invito a utilizzare Copilot insieme a Raycast. Manson ha reagito duramente: "È orribile. Sapevo che prima o poi sarebbe successo, ma non pensavo così presto".
Come un virus
Una successiva indagine ha fatto capire che non si è trattato di un caso isolato: la stessa frase promozionale comparirebbe in oltre 11.000 pull request, spesso accompagnata da diciture come "START COPILOT CODING AGENT TIPS", segno che il sistema potrebbe inserire automaticamente suggerimenti, o veri e propri messaggi promozionali, nei contenuti generati.
Non è del tutto chiaro se la responsabilità sia esclusivamente di Copilot o anche di integrazioni esterne come Raycast, che dispone di un'estensione dedicata. In ogni caso, l'episodio solleva dei grossi interrogativi sul rapporto tra IA e sviluppo collaborativo e appare come l'ennesima dimostrazione che queste nuove tecnologie, infilate a forza dalle grandi compagnie in ogni possibile software, possono rivelarsi distruttive soprattutto per i piccoli sviluppatori, come già dimostrato, ad esempio dal caso Godot.
Tornando sulla questione, la vicenda si inserisce in un contesto già di suo al limite: GitHub, di proprietà di Microsoft, utilizza i dati delle interazioni degli utenti, inclusi input e output di Copilot, per addestrare i suoi modelli di intelligenza artificiale (con possibilità di opt-out per alcuni utenti). Questo apre a scenari potenzialmente problematici, in cui i contenuti generati dall'IA potrebbero finire per alimentare altri sistemi IA in un circolo che alla lunga potrebbe rivelarsi distruttivo.
Il rischio, secondo alcuni osservatori, è quello di un effetto "feedback" in cui errori, distorsioni o contenuti indesiderati, come i suddetti annunci pubblicitari, vengano amplificati con il passare del tempo. Un fenomeno già intravisto nelle prime fasi di chatbot come Bard o Bing Chat, che talvolta citavano le fonti in modo impreciso.
