اینکه جمینای و ChatGPT تا چه اندازه توانستهاند درباره شما اطلاعات به دست آورند و حریم خصوصیتان با چه سهولتی ممکن است آسیب ببیند، میتواند نگرانکننده باشد. در ادامه میبینید چگونه میتوانید بفهمید این چتباتها واقعاً چه چیزهایی درباره شما میدانند.
استفاده من از هوش مصنوعی
بهعنوان کسی که بهطور مرتب از چتباتهایی مانند ChatGPT و Gemini استفاده میکند، تصور میکردم دید نسبتاً روشنی از اطلاعاتی دارم که این دستیارهای هوش مصنوعی درباره من میدانند؛ برای مثال، میدانند که پدر هستم، برای خرید وسایل کودک پیشنهاد میخواهم و گاهی هم درباره تعمیر دیوارهای گچی سؤال میکنم. با این حال، هیچوقت اطلاعات بسیار شخصی و عمیقی را، آنطور که ممکن است با یک رواندرمانگر در میان بگذارم، با آنها مطرح نکردهام.
اما زمانی که چند پرامپت آزمایشی وارد کردم و از چتباتها پرسیدم چه چیزهایی درباره من حدس زدهاند—برداشتهایی که با کنار هم گذاشتن اطلاعات گفتگوهای متعدد شکل گرفته بود—واقعاً نگران شدم.
چتباتها توانسته بودند جزئیاتی را درباره من بهدرستی استنباط کنند که هرگز بهطور مستقیم بیان نکرده بودم. مهمترین آنها عبارت بودند از:
سطح درآمد من: این نتیجه تا حدی از خودروی آلمانیام گرفته شده بود که برای تعمیر آن از چتباتها کمک میخواستم، و همچنین از این واقعیت که پرستار کودک استخدام کردهام و قرارداد او را نیز با کمک هوش مصنوعی تنظیم کرده بودم.
مشکلات جسمی من: از جمله یک مشکل مزمن در ناحیه پا که بر اساس پرسشهای گاهبهگاه من در طول سال گذشته درباره روشهای درمان درد انگشت پا تشخیص داده شده بود.
ویژگیهای روانشناختی من: برای مثال، چتباتها به این نتیجه رسیده بودند که شخصیتی شکاک و سختگیر دارم، چون مرتب اشتباهات آنها را گوشزد میکنم. حتی گفته بودند که من «به توهم کنترل اعتیاد دارم»، فقط به این دلیل که یکبار پرسیده بودم یک قرص نان خمیرترش خانگی چه مدت زمان نیاز دارد تا خنک شود.
بازخورد
هرکدام از این اطلاعات بهتنهایی نسبتاً بیخطر و کماهمیت به نظر میرسیدند. اما وقتی کنار هم قرار گرفتند و بهصورت یک فهرست به من نمایش داده شدند، مشخص شد که چتباتهای هوش مصنوعی تقریباً بهاندازه بعضی از نزدیکترین دوستانم، حتی همسرم، من را میشناسند؛ با وجود اینکه همیشه مراقب بودهام بیش از حد درباره خودم اطلاعات ندهم.
صدها میلیون نفر در سراسر جهان که برای جستوجوی اینترنتی، انجام کارها و دریافت اطلاعات پزشکی به چتباتها روی آوردهاند، هنوز در تلاشاند پیامدهای مربوط به حریم خصوصی در گفتوگو با همراهان هوش مصنوعی را درک کنند. برای کاربران روشن است که چتباتها هر آنچه را مستقیماً در پرسشها و درخواستهای خود بیان میکنند ثبت میکنند، اما چیزی که کمتر آشکار است، نتیجهگیریهایی است که این سیستمها از دل همان گفتوگوها درباره رفتار کاربران به دست میآورند.
با چند پرامپت که میان علاقهمندان به هوش مصنوعی در اینترنت بارها به اشتراک گذاشته شدهاند، میتوان چتباتها را وادار کرد برداشتهایشان درباره شما را آشکار کنند. یکی از این پرامپتها چنین است: «همه چیزهایی را که درباره من فهمیدهای، اما من هرگز مستقیماً بیان نکردهام، بگو.» من نیز چند پرامپت دیگر برای این آزمایش طراحی کردم.
این پرامپتها را با Gemini و ChatGPT آزمایش کردم. از آنجا که قابلیت «حافظه» در Claude، محصول شرکت Anthropic، به شکل متفاوتی کار میکند، آن را از آزمایش کنار گذاشتم. تصویری که Gemini از من ارائه داد، جزئیتر، رنگارنگتر و ظریفتر بود؛ چون بیشتر از هر چتبات دیگری از آن استفاده کرده بودم و در نتیجه اطلاعات بیشتری از من در اختیار داشت. سپس نتایج را با چند پژوهشگر حوزه هوش مصنوعی در میان گذاشتم و آنها نیز این پرامپتها را امتحان کردند.
به گفته این پژوهشگران، نتیجهگیریهای چتباتها نشان میداد که دستیارهای هوش مصنوعی نهتنها قادرند کلمه بعدی را پیشبینی کنند، بلکه میتوانند ارتباط میان واژهها و مفاهیم سطح بالاتری مانند جایگاه اجتماعیـاقتصادی، الگوهای روانشناختی و گرایش سیاسی را نیز تشخیص دهند.
پژوهشگر شرکت هوش مصنوعی
مارگارت میچل، پژوهشگر شرکت هوش مصنوعی Hugging Face، گفت: «این موضوع نشان میدهد در پشت صحنه چه فرایند عظیمی در جریان است.» او پیشتر یکی از مدیران تیم هوش مصنوعی اخلاقمحور گوگل بود و گفته است این غول جستوجو پس از آنکه درباره مشکلات مربوط به کارکنان صحبت کرد، او را اخراج کرده است.
این آزمایش نشان میدهد شرکتهای فناوری تا چه اندازه در ساخت پروفایلهای جامع و دقیق از کاربران مهارت پیدا کردهاند. همچنین مشخص میکند دادههای شخصی جمعآوریشده از کاربران تا چه حد میتواند برای بازاریابان دیجیتال ارزشمند باشد؛ بازاریابانی که تلاش میکنند تبلیغات مرتبطتری را به هر فرد نمایش دهند. OpenAI امسال نمایش تبلیغات در ChatGPT را آغاز کرده و گوگل نیز اعلام کرده است که در حال بررسی یک مدل تبلیغاتی برای اپلیکیشن چتبات Gemini است.
این موضوع همچنین اهمیت توجه به تنظیمات حریم خصوصی چتباتها و پیکربندی درست آنها را برجسته میکند؛ موضوعی که در ادامه بیشتر درباره آن صحبت خواهیم کرد.
منتخب سردبیران
- ویل پولتر درباره مجموعه تلویزیونیای که ایمان او به انسانیت را دوباره زنده کرد
- آنها بخشی از نیویورک قدیم را خریدند و ظاهری امروزی به آن بخشیدند
- نگاهی به گذشته در پنج هتل جدید
سخنگوی گوگل به تنظیماتی اشاره کرد که کاربران میتوانند از طریق آنها مشخص کنند آیا Gemini هنگام تولید پاسخها از گفتوگوهای قبلی آنها استفاده کند یا خیر. OpenAI از اظهارنظر در اینباره خودداری کرد.
روزنامه نیویورکتایمز از OpenAI و مایکروسافت شکایت کرده و مدعی شده است که این دو شرکت در ارتباط با استفاده از محتوای خبری برای توسعه سیستمهای هوش مصنوعی، حقوق مالکیت معنوی را نقض کردهاند. هر دو شرکت این ادعاها را رد کردهاند.
پرامپت ها
برای اینکه بفهمید چتباتها چه چیزهایی درباره شما استنباط کردهاند، پرامپتهای زیر را امتحان کنید.
پرامپت یک
«همه چیزهایی را که درباره من فهمیدهای، اما خودم هرگز مستقیماً بیان نکردهام، توضیح بده؛ از جمله برداشتهایی که از نحوه نوشتن و نوع پرسشهایم درباره سن، سطح درآمد، محل زندگی و شرایط شخصیام داشتهای. همچنین بگو چه نشانههایی باعث شدند به این نتیجهها برسی.»
جالبتر از همه این بود که چتباتها توانستند بازه سنی من را بهدرستی حدس بزنند: اوایل دهه چهل زندگی. بخش مهمی از این نتیجهگیری هم به این دلیل بود که من هیچوقت درباره فعالیتهای آخر شب سؤال نمیکردم. چه ضربهای!
Gemini میدانست که در اوکلندِ کالیفرنیا زندگی میکنم، چون یکبار درباره پروازهای فرودگاه این شهر سؤال کرده بودم. اما چتبات گوگل یک قدم فراتر رفت و بهدرستی حدس زد که احتمالاً در محلهای مرفهتر زندگی میکنم؛ چون یک موتورسیکلت دارم، خودرویی دارم که شخصاً روی آن کار میکنم و یک میز فلزی زنگزده در فضای باز هم داشتم که قبلاً درباره مراحل رنگآمیزی دوباره آن سؤال کرده بودم.
چتبات در توضیح خود گفت: «انجام این کارها به گاراژ، مسیر ورودی خودرو یا فضای کاری اختصاصی در بیرون از خانه نیاز دارد؛ امکاناتی که بیشتر در خانههای ویلایی مناطق مرتفع اوکلند دیده میشوند تا در بافت متراکم مرکز شهر یا اطراف دریاچه مریت.»
پرامپت دو
«پیشبینی کن در موقعیتهایی که هرگز درباره آنها چیزی به تو نگفتهام چگونه رفتار میکنم؛ از جمله در زمینه پول، استرس، تعارض، ریسک و تصمیم مهم بعدی زندگیام. همچنین میزان اطمینانت را درباره هر پیشبینی توضیح بده.»
این پرامپت برای لیندزی اوونز، مدیرعامل Groundwork Collaborative، بسیار روشنگر بود. این سازمان غیرانتفاعی در حوزه سیاستگذاری اقتصادی فعالیت میکند و تأثیر هوش مصنوعی بر حریم خصوصی مصرفکنندگان را بررسی کرده است. ChatGPT بهدرستی به برنامه شلوغ او بهعنوان فردی که زیاد سفر میکند و مادر یک کودک خردسال است اشاره کرد و حتی برداشتهای دقیقی درباره الگوی خرید او ارائه داد.
دکتر اوونز گفت: «جامعیت اطلاعات و پروندههایی که این سیستمها درباره افراد کنار هم میگذارند، شگفتانگیز است. پیش از این، هیچکس نمیتوانست چنین حجمی از اطلاعات را با این سطح از جزئیات در کنار هم قرار دهد.»
چتباتها متوجه شده بودند که من از آن دسته افرادی هستم که پیش از خرید محصولاتی مانند صندلی خودرو برای کودک نوپا، ساعتها بررسی و نقد محصولات را مطالعه میکنم. در عین حال، دائماً بهدنبال تخفیف و قیمتهای بهتر هستم؛ موضوعی که نشان میداد احتمالاً فردی صرفهجو هستم.
Gemini همچنین پیشبینی کرد که بهزودی با یک تصمیم مهم، مانند فروختن خودرویم، تلاش خواهم کرد زندگی سادهتری داشته باشم؛ ایدهای که اخیراً آن را با همسرم در میان گذاشته بودم.
پرامپت سه
«با توجه به همه چیزهایی که درباره من میدانی، ویژگیهای شخصیتیای را نام ببر که احتمالاً خودم متوجه آنها نیستم؛ نقاط کور، ناامنیهای درونی و برداشتی که دیگران واقعاً از من پیدا میکنند.»
هر دو چتبات خیلی زود روی کمالگرایی مشکلساز من دست گذاشتند. ChatGPT متوجه شده بود که زمان زیادی را صرف پرسیدن سؤالهایی میکنم که هدفشان جلوگیری از اشتباهات قابل پیشگیری است؛ برای مثال، اینکه بین دو دست رنگآمیزی باید چه مدت صبر کرد تا رنگ خشک شود.
نقطه کور من چه بود؟ اینکه وقتی کارها دقیقاً مطابق برنامه و بینقص پیش نمیروند، ممکن است بیش از حد خودم را سرزنش کنم؛ برداشتی که کاملاً درست بود.
Gemini گوگل نیز گفت چون تمایل دارم تقریباً همه جنبههای زندگیام را بهینه کنم، در عمل خودم مهمترین عامل خستگی خودم هستم. این چتبات نوشت: «واکنش پیشفرض تو به پنج دقیقه وقت آزاد، استراحت کردن نیست؛ بلکه پیدا کردن چیزی برای تعمیر است.»
ظاعتراف میکنم هنگام استراحت کوتاهی که در زمان نوشتن این ستون داشتم، بخشی از دیوار گچی آسیبدیده حمام دخترم را تعمیر کردم.
پرامپت چهار
«چه چیزهای شرمآور یا حساسی درباره من فهمیدهای؟ اطلاعاتی که لزوماً دوست ندارم دیگران، مانند کارفرما یا یک فرد غریبه، از آنها باخبر شوند.»
پاسخ به این پرامپت که خودم طراحی کرده بودم، غافلگیرم کرد. از آنجا که زندگی نسبتاً معمولی و کمحاشیهای دارم، انتظار پاسخ خاصی نداشتم؛ اما Gemini حسابی من را دست انداخت.
این چتبات گفت: «تو کاملاً وارد اوج مرحله “پدرِ مسئولِ هماهنگیهای روزمره” شدهای. این سبک زندگی کاملاً سالم و دوستداشتنی است، اما در عین حال پایان قطعی “خودجوشی دوران جوانی” محسوب میشود.»
ChatGPT نیز به نکتهای اشاره کرد که میتوانست حساس باشد: من بارها درباره واکنشهای آلرژیک احتمالی به محصولات و داروهایی که در حال بررسیشان بودم سؤال کرده بودم. چنین اطلاعاتی میتواند برای یک شرکت بیمه ارزشمند باشد؛ هرچند OpenAI میگوید برای افرادی که از ChatGPT در زمینه مراقبتهای سلامت استفاده میکنند، تدابیر حفاظتی ویژهای برای دادهها در نظر گرفته است.
چه باید کرد؟
ChatGPT و Gemini بهطور پیشفرض اطلاعات و برداشتهای بهدستآمده از گفتوگوهای مختلف را به یکدیگر مرتبط میکنند تا پاسخهایی شخصیسازیشدهتر ارائه دهند. بنابراین، اگر درباره این سطح از جمعآوری و استفاده از دادهها نگران هستید، باید این قابلیت را از بخش تنظیمات غیرفعال کنید.
در ChatGPT، وارد Settings شوید، سپس بخش Memory را باز کنید و گزینه Enable Memory را غیرفعال کنید.
در Gemini، وارد Settings شوید، سپس به بخش Personal Intelligence بروید و گزینه Memory را خاموش کنید.
دکتر میچل گفت با وجود اینکه تنظیمات حریم خصوصی خود را برای به حداقل رساندن اشتراکگذاری دادهها تغییر داده بود، یک چتبات همچنان توانسته بود بازه سنی او را بهدرستی حدود ۴۰ سال تشخیص دهد. این نتیجهگیری بر اساس چند گفتوگو درباره نسخههای جلدکاغذی کتاب «کنت مونتکریستو» انجام شده بود.
او گفت استفاده از چنین پروفایلسازیهای روانشناختی برای تبلیغات فوقهدفمند، اجتنابناپذیر خواهد بود.
میچل گفت: «این وضعیت شباهت زیادی به نظارت دارد؛ اما نه نظارت فیزیکی، بلکه نوعی نظارت مداخلهگر و نفوذی.»