مدیرعامل شرکت سازنده چت‌جی‌پی‌تی:
از ربات‌های هوش‌ مصنوعی برای مشاوره حقوقی و روانی استفاده نکنید؛

ظاهرا نباید رازهای مگوی زندگی‌تان را با یک چت‌بات هوش مصنوعی مثل چت جی‌پی‌تی در میان بگذارید.

این توصیه دیگر صرفا دیدگاه کارشناسان مستقل نیست بلکه سازنده معروف‌ترین مدل هوش مصنوعی مولد جهان نیز بر آن تاکید دارد.
با گسترش استفاده از هوش مصنوعی، میلیون‌ها نفر از جمله جوانان به ربات‌های چت مانند ChatGPT برای دریافت مشاوره‌ی احساسی و روانشناختی رو آورده‌اند.

سم آلتمن مدیرعامل OpenAI هشدار می‌دهد که درحال حاضر هیچ تضمینی برای حفظ محرمانه بودن مکالمات کاربران با این چت‌بات‌ها وجود ندارد.

آلتمن در پادکستی با تئو وان، درباره‌ی نبود چارچوب قانونی برای فناوری‌های هوش مصنوعی صحبت و تأکید کرد کاربران نباید انتظار محرمانه بودن قانونی مکالمات خود با ChatGPT را داشته باشند.

برخلاف مکالمات با درمانگرها یا وکلا که تحت پوشش قوانین محرمانه بودن هستند، این امر هنوز برای مکالمات با چت‌بات‌های هوش مصنوعی وجود ندارد.

مدیرعامل OpenAI به خطرات ناشی از این نبود امنیت اشاره کرد و گفت که در صورت وقوع شکایت یا پرونده‌ی قانونی، مکالمات شما با ChatGPT می‌تواند در دادگاه استفاده شود، چیزی که به‌شدت نگران‌کننده است.
درحالی که OpenAI اعلام کرده است چت‌های رایگان را بعد از ۳۰ روز حذف می‌کند، به دلایل قانونی و امنیتی گاهی اوقات این مکالمات ذخیره می‌شوند.

داده‌های مورد اشاره برای بهبود مدل‌های هوش مصنوعی و نظارت بر سؤاستفاده‌های احتمالی استفاده می‌شوند.

برخلاف اپلیکیشن‌های رمزگذاری شده مانند واتساپ که مانع از دسترسی افراد و سازمان‌های متفرقه به مکالمات کاربران می‌شوند، OpenAI می‌تواند به همه‌ی چت‌ها دسترسی داشته باشد.

این موضوع نگرانی‌های زیادی درباره‌ی حفظ حریم خصوصی کاربران ایجاد کرده است.