• امروز : پنج شنبه - ۳ خرداد - ۱۴۰۳

آخرین خبرها

مراسم گرامیداشت شهدای خدمت در لالی برگزار شد/یک خیابان اصلی به نام رئیس جمهور شهید نامگذاری می شود + تصاویر آیت‌الله رئیسی رئیس جمهور ایران در اثر سانحه هوایی به شهادت رسید/((رهبر انقلاب)) : رئیسی عزیز خستگی نمی‌شناخت معطلی خسارت بار کشاورزان و رانندگان در لالی برای تحویل محصولات کشاورزی/معضلی که هر سال تکرار می شود فلسفه ی مرگ و مرگ اندیشی در اندیشه ی خیام نیشابوری عملکرد علیرضا ورناصری در دوره چهار ساله در مجلس شورای اسلامی برای شهرستان لالی مجلس به جای وضع قوانین غیر ضرور مشکلات جوانان را حل کند یا جلوی فساد را بگیرد استقبال مردم از خادمان حرم رضوی در لالی/دیدارهای مختلف با دانش آموزان بیماران و خانواده شهدا + عکس مناظر شهری زیبا و پست مدرن در کره‌ شمالی رعد و برق ، مزارع کشاورزی در لالی را به آتش کشید/کنترل آتش سوزی توسط مردم آثار زیبای هنری نقاشی البرز نوبخت گام بزرگ بیمه البرز و هلدینگ صبا انرژی برای توسعه مسجدسلیمان ، لالی و اندیکا مراسم پاسداشت شهید راه سلامت دکتر عبدالحسین مرتضایی فر در لالی برگزار شد + عکس سیره ائمه و بزرگان تکریم بقاع متبرکه است/مطالبات واقعی زنان در جامعه مطرح نمی شود رقم های عجیب در بودجه‌ سالیانه/فربه کردن نهادهایی که نه خروجی کار آن ها مشخص است و نه عملکردشان تلف شدن ۳۰ راس گوسفند در پی بارش‌های سیل آسای اخیر در بخش حتی شهرستان لالی خانواده نوجوان مرگ مغزی در شهرستان لالی با اهدای اعضای حیاتی فرزند خود به ۳ نفر زندگی دوباره بخشیدند دشمنان ما وحشی تر از قبل شده اند زیرا تبلیغاتشان دیگر روی مردم ما اثرگذار نیست فصل کوچ است و دلم چای چاله می خواهد دشت شیمبار جلوه ای از بهشت در خوزستان فینالیست شدن نونهالان فولاد خوزستان با مربیگری فرشاد حاجی پور در مسابقات کشوری آغاز برداشت محصولات زراعی در لالی/ در بیش از ۱۷ هزار هکتار محصول زراعی برداشت خواهد شد + عکس بازاری وحشی‌تر از بازارمسکن نیست / دست‌های آلوده بانک‌ها در گرانی‌های نجومی مسکن شاهکار طراح ایرانی در نمایشگاه خودرو پکن دو کشته در حادثه واژگونی مینی‌بوس در باغملک مرحله اول کنکور سراسری برگزار شد / رقابت ۸۳۵ داوطلب در اولین گام کنکور ۱۴۰۳ اجرای طرح ملی زراعت چوب با مشارکت بنیاد برکت در لالی شورای شهر در این سه سال برای مردم چه کرده است؟هیچ / جاده پاشنه زاگرس تنها در حد حرف مانده است واقعیت علمی دربارۀ «مثلث برمودا» چیست؟ قدیمی ترین سالن آمفی تئاتر کشور محل برگزاری نمایشگاه تجهیزات قدیمی سینما شد بادام سامان،محصولی که شهرت جهانی دارد مواظب کدخداهای چینی باشیم به بهانه روز سعدی / مگسی کجا تواند … بیش از ۲۶.۶ میلیون نفر از جاذبه‌های گردشگری استان خوزستان بازدیدکردند/دزفول،شوشتر واندیکا پربازدید ترین شهرها در نوروز ۱۴۰۳ شدند پیام مهمی که ایران مخابره کرد! آقای وزیر کشور برای رهبری هزینه نتراشید دشت لاله‌های واژگون کوهرنگ شناورشدن واژ‌ه‌های زبان و رابطۀ آن با دموکراسی و استبداد پایان مسابقات فوتبال جام دهیاری های شهرستان لالی با قهرمانی تیم فوتبال تراز + عکس از کارکنان آزمایشگاه بیمارستان امید لالی تقدیر شد اگر خطایی از اسرائیل سر بزند عملیات بعدی ما بزرگتر خواهد بود/به خط و زبان فارسی باید بیشتر توجه کنیم از پیشکسوتان کوهنوردی و فاتح قلل هیمالیا تجلیل شد / انتصاب رئیس هیئت پزشکی ورزشی شهرستان لالی + عکس نجات جان مادر باردار در منطقه عشایری کهناب لالی ایلراه منار ، گذرگاهی پر از خاطرات عشایر بختیاری نگرانی از صلح شکننده ۲ طایفه در خوزستان ؛ اختلافی که هنوز قربانی میگیرد بارندگی‌های اخیر جان دوباره ای به تالابهای خوزستان بخشید/آبگیری ۸۸ درصدی تالاب شیمبار «هوش مصنوعی» چیست و چطور کار می‌کند؟ وعده ایلان ماسک؛سکونت انسان روی مریخ چرا قطب جنوب یک بیابان خطرناک است؟ حمایت مردم شهرستان لالی از عملیات نظامی سپاه پاسداران در حمله به اسرائیل + عکس غواص و غریق نجات مسجدسلیمانی درگذشت

چهار تهدید بزرگ هوش مصنوعی برای انسان‌ها

  • 21 خرداد 1402 - 9:21
چهار تهدید بزرگ هوش مصنوعی برای انسان‌ها
کارشناسان برجسته هوش مصنوعی زنگ خطر را در مورد سرعت و بزرگی پیشرفت‌های اخیر در این زمینه به صدا درآورده‌ و هشدار دادند این پیشرفت‌ها چیزی کمتر از تهدید بشریت نیست.

کارشناسان برجسته هوش مصنوعی زنگ خطر را در مورد سرعت و عظمت پیشرفت‌های اخیر در زمینه این فناوری به صدا درآورده‌ و چهار تهدید را برای جوامع انسانی برشمرده‌اند.

چرا هوش مصنوعی چنین ترسی را به وجود آورده است و ما در این زمینه چه کاری می توانیم انجام دهیم؟ چرا جفری هینتون «پدرخوانده هوش مصنوعی» نگران است؟ چهار خطری که این فناوری او را نگران کرده است،‌ کدام است؟

برخی از بزرگ‌ترین نگرانی‌های ابرازشده در مورد آینده هوش مصنوعی و بشریت چیست؟

کارشناسان برجسته هوش مصنوعی زنگ خطر را در مورد سرعت و بزرگی پیشرفت‌های اخیر در این زمینه به صدا درآورده‌ و هشدار دادند این پیشرفت‌ها چیزی کمتر از تهدید بشریت نیست.

جفری هینتون، دانشمند حوزه رایانه که به “پدرخوانده هوش مصنوعی” معرف است، اخیرا شغل خود را در گوگل ترک کرد تا نگرانی هایش را در مورد توسعه کنترل نشده ابزارهای جدید هوش مصنوعی با دیگران درمیان بگذارد.

هینتون ۷۵ ساله، در گفت و گو با مجله MIT Technology Review دانشگاه ام آی تی اظهار داشت: ناگهان دیدگاه خود را در مورد اینکه آیا این دستاوردها هوشمندتر از ما خواهند بود، تغییر دادم. فکر می کنم هوش مصنوعی در حال حاضر بسیار به ما نزدیک شده و در آینده بسیار باهوش تر از ما خواهد شد. سوال این است که چگونه ما انسان ها می توانیم از این فناوری جان سالم به در ببریم؟

هینتون تنها کسی نیست که در این زمینه ابراز نگرانی کرده است. در ماه فوریه «سم آلتمن»، مدیرعامل شرکت اوپن ای آی که «چت جی پی تی» را توسعه داده است نیز در این مورد اظهار داشت: جهان فاصله زیادی با دستیابی به ابزارهای هوش مصنوعی بالقوه ترسناک ندارد؛ بنابراین تعیین مقررات در این زمینه بسیار مهم است، اما فهمیدن این موضوع زمان می‌برد.

اندکی پس از اینکه استارتاپ تحت حمایت مایکروسافت آخرین مدل هوش مصنوعی خود به نام GPT-۴ را در ماه مارس منتشر کرد، بیش از هزار محقق و فناور در نامه ای با توجه به خطرهای عمیقی که این فناوری برای جامعه و بیشتریت دارد، خواستار توقف ۶ ماهه توسعه هوش مصنوعی شدند.

در اینجا به ارائه بزرگترین نگرانی هایی که هینتون و سایر کارشناسان بیان کرده اند، می پردازیم.

۱- هوش مصنوعی ممکن است در حال حاضر هوشمندتر از ما باشد

مغز انسان به لطف استعداد ذاتی خود در سازماندهی و ذخیره اطلاعات و یافتن راه حل هایی برای مشکلات دشوار می تواند معادلات را حل کند، به رانندگی بپردازد و سریال ها را دنبال کند.

تقریباً ۸۶ میلیارد نورون که در جمجمه انسان قرار گرفته اند و مهمتر از آن، ۱۰۰ تریلیون ارتباط ایجاد شده بین این نرون ها، این قابلیت ها را برای انسان فراهم کرده است.

هینتون می گوید: در مقابل، در فناوری زیربنای ChatGPT بین ۵۰۰ میلیارد تا یک تریلیون ارتباط وجود دارد. در حالی که به نظر می‌رسد این موضوع آن را نسبت به ما در یک نقطه ضعف بزرگ قرار می‌دهد، GPT-۴ که آخرین مدل هوش مصنوعی از OpenAI است، صدها برابر هر انسان دیگری می‌داند. این فناوری شاید، الگوریتم یادگیری بسیار بهتری نسبت به انسان دارد که آن را در فعالیت های شناختی کارآمدتر می‌کند.

پژوهشگران مدت‌هاست متوجه شده‌اند که جذب و بکارگیری دانش جدید برای شبکه‌های عصبی مصنوعی در مقایسه با انسان زمان بسیار بیشتری طول می کشد؛‌ چرا که آموزش آن‌ها به انرژی و داده های عظیمی نیاز دارد.

اما هینتون می گوید دیگر این‌گونه نیست و سامانه هایی مانند GPT-۴ پس از آموزش صحیح توسط محققان می‌توانند مطالب جدید را خیلی سریع بیاموزند. این موضوع بی شباهت به روشی نیست که یک فیزیکدان حرفه ای تعلیم دیده یافته های تجربی جدید را بسیار سریعتر از یک دانش آموز دبیرستان می فهمد.

این امر هینتون را به این نتیجه رساند که سامانه های هوش مصنوعی از ما باهوشترند. آنها نه تنها می‌توانند مطالب را سریع‌تر یاد بگیرند، بلکه می‌توانند نسخه‌هایی از دانش خود را تقریباً بلافاصله با یکدیگر به اشتراک بگذارند. این یک شکل کاملاً متفاوت هوش است، شکل جدید و بهتر هوش.

۲- هوش مصنوعی می‌تواند انتشار اطلاعات نادرست را سرعت ببخشد

سامانه های هوش مصنوعی هوشمندتر از انسان چه کاری انجام می دهند؟ یک احتمال نگران کننده این است که افراد، گروه ها یا دولت های یک ملیتی معاند ممکن است به سادگی از آنها برای پیشبرد اهداف خود بهره برداری کنند.

طبق گزارش جدید NewsGuard که اعتبار وب سایت ها را ارزیابی و اطلاعات نادرست آنلاین را ردیابی می کند، ده ها سایت خبری جعلی در حال حاضر به زبان های مختلف در سراسر شبکه اینترنت پخش شده اند و برخی از آنها روزانه صدها مقاله را که با کمک هوش مصنوعی تولید شده اند، منتشر می کنند.

هینتون به ویژه نگران است که ابزارهای هوش مصنوعی می توانند برای تاثیرگذاری بر انتخابات و حتی راه انداختن جنگ آموزش داده شوند.

برای مثال، اطلاعات نادرست انتخاباتی که از طریق چت بات‌های هوش مصنوعی منتشر می‌شود، می‌تواند نسخه آینده اطلاعات نادرست انتخاباتی باشد که از طریق فیس‌بوک و دیگر پیام رسان های اجتماعی منتشر می‌شود و اینها ممکن است تازه آغاز راه باشد.

۳- آیا هوش مصنوعی انسان‌ها را بیکار می‌کند؟

شرکت OpenAI تخمین می زند ۸۰ درصد از کارگران در آمریکا شاهد خواهند بود شغل آنها تحت تأثیر هوش مصنوعی قرار می گیرد. گزارش شرکت خدمات مالی و بانکداری گلدمن ساکس بیانگر آن است که این فناوری می تواند ۳۰۰ میلیون شغل تمام وقت را در سراسر جهان مورد تهدید قرار دهد.

به گفته هینتون، زمانی که “ابزارهای هوشمند می توانند از ما پیشی بگیرند” بقای بشریت در خطر است.

هینتون می‌گوید: این چیزها با خواندن همه رمان‌هایی که تا به حال نگاشته شده و هر آنچه «نیکولو ماکیاولی» مورخ و نمایشنامه‌نویس ایتالیایی تا به حال نوشته است، از ما می آموزد چگونه انسان ها را کنترل کند. حتی اگر آنها نتوانند مستقیماً اهرم‌ها را بکشند، مطمئناً می‌توانند ما را وادار به کشیدن اهرم کنند.

۴- کاملاً نمی‌دانیم چگونه آن را متوقف کنیم

هینتون افزود: ای کاش یک راه حل ساده خوب داشتم، اما مطمئن نیستم که آیا راه حلی وجود دارد.

با این حال، دولت ها توجه زیادی به ظهور هوش مصنوعی دارند. کاخ سفید از مدیران اجرایی گوگل، مایکروسافت و OpenAI سازنده ChatGPT دعوت کرد تا با «کامالا هریس»، معاون رییس جمهور آمریکا، در مورد چگونگی کاهش خطرات کوتاه مدت و بلندمدت این فناوری دیدار کنند و بحث صریحی در این باره داشته باشند.

قانونگذاران اروپایی نیز در حال تسریع مذاکرات برای تصویب قوانین جامع هوش مصنوعی هستند. بریتانیا قصد دارد تأثیر هوش مصنوعی را بر مصرف کنندگان، مشاغل و اقتصاد و اینکه آیا کنترل های جدید برای فناوری هایی مثل ChatGPT مورد نیاز است یا خیر، بررسی کند.

آنچه مشخص نیست این است که چگونه کسی می تواند قدرتی مانند روسیه را از استفاده از فناوری هوش مصنوعی برای تسلط بر همسایگان یا شهروندان خود بازدارد.

هینتون پیشنهاد کرد که یک توافق جهانی مشابه با کنوانسیون تسلیحات شیمیایی ۱۹۹۷، اولین گام خوب برای ایجاد قوانین بین المللی علیه هوش مصنوعی تسلیحاتی باشد.

  • منبع : ایرنا

نظرات

مجموع دیدگاهها : 0در انتظار بررسی : 0انتشار یافته : ۰