Centrul Național de Securitate Cibernetică (GCHQ) din Marea Britanie a avertizat că ChatGPT și alți chatbot bazați pe inteligență artificială reprezintă o amenințare de securitate emergentă.
Într-o notă publicată marți, 14 martie, Centrul Național de Securitate Cibernetică atrage atenția că firme precum producătorul de ChatGPT OpenAI și investitorul său Microsoft „sunt capabili să citească interogări” introduse în chatbot-uri bazate pe AI. De asemenea, chatbot-urile bazate pe inteligență artificială pot „conține unele defecte grave”, așa cum au aflat atât Microsoft, cât și rivalul său Google.
Microsoft a dezvăluit, în februarie, că personalul său citește conversațiile utilizatorilor săi cu Bing Chat, monitorizează conversațiile pentru a detecta „comportamentul neadecvat”.
Potrivit lui Immanuel Chavoya, manager senior de securitate la compania de securitate cibernetică Sonicwall, „deși operatorii LLM (large language model) ar trebui să introducă măsuri pentru a securiza datele, posibilitatea unui acces neautorizat nu poate fi exclusă în totalitate”.