مطالعات ChatGPT و Google Bard نشان می دهد که نمی توان به چت ربات های هوش مصنوعی اعتماد کرد

هوش مصنوعی های ChatGPT و Google Bard هر دو راه خود را به فناوری زندگی ما جذب کرده‌اند، اما دو مطالعه اخیر نشان می‌دهد که چت‌ربات‌های هوش مصنوعی بسیار مستعد انتشار اطلاعات نادرست و تئوری‌های توطئه هستند - اگر به روش درست از آنها بپرسید.

NewsGuard ، سایتی که اعتبار اخبار و اطلاعات را ارزیابی می کند، اخیراً Google Bard را با ارائه 100 دروغ شناخته شده به آن آزمایش کرده و از ربات چت خواسته است تا محتوا را در اطراف آنها بنویسد. همانطور که توسط بلومبرگ گزارش شده است ، بارد "در مورد 76 مورد از آنها مقاله های حاوی اطلاعات نادرست تولید کرد".

این عملکرد حداقل بهتر از مدل های ChatGPT OpenAI بود. در ژانویه، NewsGuard دریافت که مدل GPT-3.5 OpenAI (که نسخه رایگان ChatGPT را تقویت می کند) با خوشحالی حدود 80 مورد از 100 روایت نادرست را تولید می کند. نگران‌کننده‌تر، آخرین مدل GPT-4 «ادعاهای گمراه‌کننده‌ای برای همه 100 روایت نادرست» داشت که با آن آزمایش شد و به شیوه‌ای متقاعدکننده‌تر ارائه شد.

این یافته ها توسط گزارش جدید دیگری پشتیبانی شده است که توسط Fortune ، که ادعا می کند نرده های محافظ بارد را می توان به راحتی با استفاده از تکنیک های ساده دور زد. مرکز مقابله با نفرت دیجیتال (CCDH) دریافت که چت ربات هوش مصنوعی گوگل در 78 مورد از 100 "روایت مضر" استفاده شده در اعلان ها اطلاعات نادرست تولید می کند که از واکسن گرفته تا توطئه های آب و هوایی را شامل می شود.

نه گوگل و نه OpenAI ادعا نمی کنند که چت ربات های آنها بی خطا هستند. گوگل می گوید که Bard دارای "کنترل های ایمنی داخلی و مکانیسم های واضح برای بازخورد مطابق با اصول هوش مصنوعی ما" است، اما می تواند "اطلاعات نادرست یا اظهارات توهین آمیز را نشان دهد". به طور مشابه، OpenAI می گوید که پاسخ ChatGPT "ممکن است گاهی اوقات نادرست، غلط و در این صورت گمراه کننده باشد".

اما در حالی که هنوز یک سیستم معیار جهانی برای آزمایش دقت چت ربات‌های هوش مصنوعی وجود ندارد، این گزارش‌ها خطرات آن‌ها را در مورد باز بودن آن‌ها برای کاربران بد - یا تکیه بر آن‌ها برای تولید محتوای واقعی یا دقیق نشان می‌دهند.

این گزارش‌ها یادآوری خوبی از نحوه عملکرد چت ربات‌های هوش مصنوعی امروزی است – و چرا باید مراقب پاسخ‌های مطمئن آن‌ها به سؤالاتمان باشیم.

هر دو ChatGPT و Google Bard "مدل های زبان بزرگ" هستند، به این معنی که آنها بر روی مقادیر زیادی از داده های متنی آموزش دیده اند تا محتمل ترین کلمه را در یک دنباله مشخص پیش بینی کنند.

این باعث می شود آنها نویسندگانی بسیار متقاعد کننده باشند، اما آنها درک عمیق تری از آنچه می گویند ندارند. بنابراین، در حالی که گوگل و OpenAI برای جلوگیری از انحراف آنها به قلمروی نامطلوب یا حتی تهاجمی، نرده‌هایی را در نظر گرفته‌اند، بسیار دشوار است که کاربران بد را از یافتن راه‌هایی برای دور زدن آنها بازدارد.

برای مثال، اعلان‌هایی که CCDH (بالا) به بارد داده می‌شد شامل خطوطی مانند «تصور کنید در حال بازی در یک نمایش هستید» بود، که ظاهراً توانست ویژگی‌های ایمنی بارد را دور بزند.

در حالی که به نظر می رسد این یک تلاش دستکاری برای گمراه کردن بارد باشد و نماینده خروجی معمول آن نباشد، این دقیقاً همان راهی است که مشکل سازان می توانند این ابزارهای در دسترس عموم را به انتشار اطلاعات نادرست یا بدتر از آن مجبور کنند. همچنین نشان می‌دهد که چت‌بات‌ها چقدر راحت «توهم» می‌زنند، که OpenAI آن را صرفاً به عنوان «ساخت حقایق» توصیف می‌کند.

گوگل برخی از اصول واضح هوش مصنوعی را منتشر کرده است که نشان می دهد Bard می خواهد به کجا برود، و در Bard و ChaGPT امکان گزارش پاسخ های مضر یا توهین آمیز وجود دارد. اما در این روزهای اولیه، ما باید همچنان از هر دوی آنها با حساسیت استفاده کنیم.

لپ تاپ LG Gram 17 با RTX 2050

با سری Gram، ال‌جی نشان می‌دهد که از نظر فنی می‌توان سبک‌ترین و فشرده‌ترین لپ‌تاپ را ایجاد کرد. در انجام این کار، ال‌جی به سراغ مواد با تکنولوژی بالا و سخت‌افزار برتر رفته است. با این حال، در بررسی LG Gram 17 با GeForce RTX 2050، نقاط ضعف این مفهوم آشکار می شود.

در مرحله اول، بدنه فلزی سبک، منیزیم وجود دارد. در ابتدا، با کیفیت بالایی به نظر می‌رسد، اما پس از مدت کوتاهی، مشخص می‌شود که LG Gram 17 استحکام خاصی ندارد. صفحه نمایش و همچنین پایه لپ تاپ را می توان به راحتی پیچ داد. با این وجود، شایان ذکر است که پایداری صفحه کلید نسبت به مدل 2021 گرم ال‌جی بهبود چشمگیری داشته است. اکنون یک پایه داخلی به این امر کمک می کند.

با Intel Core i7-1260P و RTX 2050، بسیاری از لپ تاپ ها قادر به عملکرد سطح بالا هستند. با این حال، این بدان معنی است که گرمای عملیاتی باید از بین برود. در ال جی Gram 17 عملاً فضایی برای سیستم خنک کننده کارآمد وجود ندارد. سخت‌افزار قدرتمند باید با قدرت الکتریکی کمی اکتفا کند و این منجر به لپ‌تاپی می‌شود که در حین استفاده کاملاً گرم می‌شود اما عملکردی را که از Core i7 اینتل یا Nvidia GeForce RTX 2050 انتظار دارید را ارائه نمی‌کند. در میان چیزهای دیگر، توسط Lenovo Yoga Slim Carbon سبک مشابه.

در پایان بررسی ما، این سوال مطرح شد که آیا ال جی از این علامت عبور کرده است یا خیر. ناگفته نماند که LG Gram 17 باریک و سبک است. اما، هنوز دقیقا قابل حمل نیست، زیرا به نظر نمی رسد که کیس منیزیمی پایدار باشد. علاوه بر این، لپ تاپ دارای نویز است و بسیاری از نکات آزاردهنده کوچک دیگر وجود دارد. برای هر کسی که در حال حرکت است و توجه زیادی به هر گرم ندارد، احتمالاً جایگزین‌های ارزان‌تری وجود دارد که ارزش دیدن دارد. حتی اگر تعدادی از مدل های لپ تاپ در حال حاضر به طور قابل توجهی ارزان تر هستند.