بزرگترين نقطه ضعف هوش مصنوعي/انگليس ميزبان اجلاس جهاني هوش مصنوعي
تاریخ انتشار: ۵ شهریور ۱۴۰۲ | کد خبر: ۳۸۵۶۰۴۲۳
خبرگزاری آریا-مدیرعامل گوگل تاکید کرد که فناوری هوش مصنوعی میتواند زندگی را از بسیاری جهات آسانتر کند، اما پتانسیل آسیب رساندن و از کنترل خارج شدن را نیز دارد.
به گزارش خبرگزاری آریا،در حال حاضر منصفانه به نظر میرسد که بگوییم هوش مصنوعی چیزی است که تا مدتها در مورد آن صحبت خواهیم کرد. اگر خوششانس باشیم، در مورد اینکه چگونه راههای عملی برای ساخت آن در محصولاتی که به زندگی ما ارزش میبخشند، پیداکردهایم، صحبت خواهیم کرد.
بیشتر بخوانید:
اخباری که در وبسایت منتشر نمیشوند!
پیچای در مصاحبه اخیر خود با شبکه خبری سیبیاس در مورد پتانسیلها و خطرات هوش مصنوعی گفت: من همیشه هوش مصنوعی را عمیقترین فناوری میدانم که بشریت روی آن کار میکند؛ عمیقتر از آتش یا الکتریسیته یا هر کاری که درگذشته انجام دادهایم.
جالب است که پیچای از مثالهای آتش و الکتریسیته استفاده کرده است. هر دو از این نظر تحولآفرین هستند که جهان قبل از کشف آنها بهطور چشمگیری با جهان بعدازآن متفاوت بود و بااینحال، با تمام ارزشی که به زندگی ما اضافه میکنند، آتش و الکتریسیته اگر کنترل نشوند دونیروی خطرناک و مخرب در جهان هستند ومی توانند به همهچیز آسیب برسانند.
همین آخر هفته، یک افرای 30 فوتی که برای دههها ایستاده بود، در طول طوفان رعدوبرق در حیاط ما پایین آورده شد که درواقع یک میلیارد ولت برق است. در طول همین طوفان، ما حدود 20 ساعت برق را از دست دادیم. این تجربه بهاندازه یک نمایش واقعی از اهمیت و همچنین میزان مخرب بودن آن بود.
به همین دلیل فکر میکنم مقایسه پیچای ارزش بررسی را دارد، زیرا بیشتر ما با پیچای موافق باشیم، حداقل با این بخش که هوش مصنوعی یک فناوری عمیق است. در بسیاری از روشها، کامپیوترها را قادر به انجام کارهایی میکند که در غیر این صورت نمیتوانستند انجام دهند، که به این معنی است که انسانها قادر به انجام کارهایی هستند که ما نمیتوانیم انجام دهیم.
اما به گفته پیچای خطرناک هم هست. پیچای در پاسخ به این سؤال که چه چیزی او را در شببیدار نگه میدارد، گفت: منظورم این است که در برخی مواقع، بشریت کنترل فناوری درحالتوسعه خود را از دست میدهد.
این یک جمله حرفهای زیادی میزند اگر این اتفاق بیفتد، مانند آتشسوزی یا برق، هوش مصنوعی میتواند اثرات مخربی داشته باشد. منظورم این نیست که فکر میکنم کامپیوترها و رباتها دنیا را تسخیر خواهند کرد همچنین فکر نمیکنم این همان چیزی باشد که پیچای به آن اشاره میکند.
راههای زیادی وجود دارد که بشریت کنترل فناوری درحالتوسعه خود را از دستمی دهد. ما فقط نمیدانیم وقتی از کنترل خارج میشود چه اتفاقی میافتد.
پیچای گفت: ضرورت کار کردن و بهکارگیری آن به روشی سودمند است؛ اما درعینحال اگر بهاشتباه به کار گرفته شود، میتواند بسیار مضر باشد، و ما هنوز همه پاسخها را در آنجا نداریم. و این فناوری بهسرعت در حال حرکت است.
درسی که در اینجا میگیریم این است که چیزهایی که برای کمک یا سرگرم کردن ما طراحیشدهاند، پیامدهای ناخواستهای دارند. تکنولوژی میتواند زندگی را از بسیاری جهات آسانتر کند، اما معمولاً به روشهایی که ما هرگز در نظر نگرفتهایم پتانسیل آسیب رساندن نیز دارد.
هوش مصنوعی درعینحال، خطرات ناشناخته دارند و میتوانند جامعه را تغییر دهد هشدار پیچای اگر غیرازاین باشد، باید باعث شود که همه دست از کار بکشند و درسهای آموختهشده از نیروهای قبلی را با همان پتانسیل خوب و تخریب در نظر بگیرند.
انگلیس میزبان اجلاس هوش مصنوعی در مرکز رمزگشایی جنگ جهانی دوم خواهد بود
به گزارش رویترز، بریتانیا اعلام کرد: اجلاس جهانی هوش مصنوعی در محلی برگزار خواهد شد که آلن تورینگ ریاضیدان رمز انیگمای آلمان نازی را در جنگ جهانی دوم شکست.
انگلیس اعلام کرد: مدیران شرکت های فناوری، مقامات دولتی و دانشگاهیان برای بررسی خطرات هوش مصنوعی و بحث در مورد چگونگی کاهش آن ها ملاقات خواهند کرد. این نشست احتمالاً موضوعاتی مانند نحوه جلوگیری از استفاده از هوش مصنوعی برای انتشار اطلاعات نادرست در طول انتخابات و استفاده از این فناوری در جنگ را مورد بررسی قرار خواهد داد.
دولتها در سرتاسر جهان در حال یادگیری چگونگی کنترل پیامدهای منفی بالقوه هوش مصنوعی بدون سرکوب این نوآوری نوظهور هستند. بریتانیا تصمیم گرفته است که مسئولیت نظارتی هوش مصنوعی را بین آن دسته از نهادهایی که بر رقابت، حقوق بشر و سلامت و ایمنی نظارت می کنند، تقسیم کند، نه اینکه یک نهاد جدید اختصاص داده شده به این فناوری ایجاد کند.
گفتنی است رهبران اقتصادهای گروه هفت (G7) متشکل از کانادا، فرانسه، آلمان، ایتالیا، ژاپن، بریتانیا، ایالات متحده و اتحادیه اروپا در ماه مه خواستار اتخاذ استانداردهایی برای ایجاد هوش مصنوعی قابل اعتماد و راه اندازی یک مجمع وزیران شدند.
جدیدترین مدل هوش مصنوعی متا معرفی شد
شرکت متا، آخرین افزودنی به لیست مدلهای هوش مصنوعی مولد خود را به نام Dubbed Code Llama معرفی کرد.
متا میگوید این ابزار هوش مصنوعی جدید میتواند با استفاده از توصیفات متنی کد تولید کند و درباره آن بحث کند.
اما همانطور که از نام آن پیداست، به وضوح مشخص است که Code Llama بر اساس مدل زبان بزرگ لاما 2 متا (LLM) است که میتواند زبان طبیعی را در حوزههای مختلف درک و تولید کند. متا در اطلاعیه خبری خود میگوید که Code Llama برای وظایف برنامهنویسی ویژهسازی شده است و از زبانهای برنامهنویسی محبوب بسیاری پشتیبانی میکند.
متا میگوید که Code Llama میتواند به عنوان یک ابزار مولد و آموزشی مورد استفاده قرار گیرد تا برنامهنویسان را در نوشتن نرمافزارهای قوی و با مستندات کامل کمک کند. همچنین میتواند در کاهش مانع ورود برای افرادی که در حال یادگیری برنامهنویسی هستند، موثر باشد.
Code Llama قادر است کد و زبان طبیعی درباره کد را از هر دو نوع درخواست کد و زبان طبیعی تولید کند. به عنوان مثال، کاربر یا توسعهدهنده میتواند توصیفی مانند “برایم یک تابع بنویسید که دنباله فیبوناچی را خروجی دهد” را بنویسد و ابزار هوش مصنوعی پاسخ میدهد. همچنین میتوان از آن برای تکمیل کد و رفع اشکال استفاده کرد.
علاوه بر این، قادر است کد را در زبانهای برنامهنویسی مختلف مانند پایتون، C++، جاوا، PHP، تایپاسکریپت، C# و Bash تکمیل و رفع اشکال کند.
متا Code Llama را برای استفاده در تحقیقات و تجارت با استفاده از همان مجوز جامعهای که برای Llama 2 استفاده میشود، منتشر میکند. شرکت مادر فیسبوک گفت که Code Llama به صورت منبع باز عرضه خواهد شد، به این معنی که هر کسی میتواند به صورت رایگان به آن دسترسی پیدا کند و از آن استفاده کند.
شرکت معتقد است که رویکرد باز در قبال هوش مصنوعی، بهترین روش برای توسعه ابزارهای هوش مصنوعی نوآورانه، ایمن و مسئولانه است. متا میگوید که با بهرهبرداری از مدلهای خود مانند Code Llama، کل جامعه قادر خواهد بود تواناییهای آنها را ارزیابی کرده، مشکلات را شناسایی کند و آسیبپذیریها را رفع کند.
Code Llama در سه نسخه با پارامترهای 7B، 13B و 34B عرضه میشود. هر یک از این مدلها با 500 میلیارد توکن کد و دادههای مرتبط با کد آموزش دیدهاند. مدلهای پایه و دستورالعمل 7B و 13B همچنین با قابلیت پر کردن در وسط (FIM) آموزش داده شدهاند که به آنها امکان درج کد درون کد موجود را میدهد.
این سه مدل برای پاسخگویی به نیازهای مختلف سرویس دهی و تاخیر طراحی شدهاند. به عنوان مثال، مدل 7B را میتواند بر روی یک GPU ارائه کرد. مدل 34B نتایج بهتری ارائه میدهد و امکان کمک بهتری در برنامهنویسی را فراهم میکند، اما مدلهای کوچکتر 7B و 13B سریعتر هستند و برای وظایفی که نیاز به تاخیر کمی دارند، مانند تکمیل کد در زمان واقعی، مناسبتر هستند.
ابزار هوش مصنوعی که 100 زبان از جمله فارسی را ترجمه میکند
ابزار هوش مصنوعی که 100 زبان از جمله فارسی را ترجمه میکندمتا یک مدل گفتار به متن جدید به نام«SeamlessM4T» را منتشر کرد که میتواند نزدیک به 100 زبان را ترجمه کند.
به گزارش گروه فناوری پیشرفته تیکنا؛ به گفته متا مدلSeamlessM4T (که مخفف ترجمه ماشینی انبوه چند زبانه و چندوجهی است) می تواند گفتار به متن و متن به متن را برای نزدیک به 100 زبان ترجمه کند. این مدل برای عملکردهای گفتار به گفتار و متن به گفتار، 100 زبان ورودی را تشخیص داده و آنها را به 35 زبان خروجی تبدیل می کند.
متا گفت: «ساخت یک مترجم زبان جهانی، چالش برانگیز است زیرا سیستم های گفتار به گفتار و گفتار به نوشتار موجود تنها بخش کوچکی از زبان های جهان را پوشش می دهند.»
این شرکت اعلام کرده که این مدل نشان دهنده پیشرفت قابل توجهی است زیرا این مدل جدید کل کار ترجمه را یکجا انجام می دهد، برخلاف سایر مدل های ترجمه بزرگ که ترجمه را در سیستم های مختلف تقسیم می کنند.
یکی از ویژگی های جالب این مدل، البته اگر بتواند به درستی کار کند، توانایی آن در زمانی است شخصی با دو یا چند زبان صحبت کند و آن ها را در هم آمیزد. به عنوان مثال، متا در یک ویدئو نشان داد که این مدل بلافاصله بین هندی، تلوگو و انگلیسی تفاوت قائل می شود.
این مدل بر اساس مدل های ترجمه قبلی از متا ساخته شده است. این شرکت سال گذشته، مدل ترجمه ماشینی متن به متن خود را که از 200 زبان پشتیبانی می کرد معرفی کرد.
متا گفت در حین توسعه SeamlessM4T، سیستمی ساخته است که کلمات حساس ونامناسب را شناسایی می کند. متا کلمات نامناسب را به عنوان مواردی تعریف می کند که ترجمه ممکن است باعث ایجاد نفرت، خشونت، ناسزا یا سوء استفاده شود.
محققان همچنین سعی کردند مجموعه داده هایی را که برخی از ناسزاها را اشتباه ترجمه می کنند، پاکسازی کنند.
متا ادعا می کند که سوگیری جنسیتی را در زبان ها نیز تشخیص می دهد و گفت این مدل می تواند تعصب جنسیتی را در ترجمه ها محدود کند.
این شرکت بسیاری از مدل های هوش مصنوعی خود را به صورت کم و بیش منبع باز برای توسعه دهندگان و محققان منتشر کرده است. اخیراً آدیوکرفت را منتشر کرده است، کدی که امکان تولید متن به صدا را فراهم می کند. متا همچنین دسترسی به مدل زبان بزرگ خود ال لاما2 را فراهم کرده است.
دانشگاههای چین تسلیم هوش مصنوعی میشوند
دانشگاههای چین پس از چندین ماه ممنوعیت استفاده از ChatGPT برای دانشجویان، اخیرا تصمیم گرفتهاند با اعمال محدودیتهایی امکان دسترسی دانشجویان به هوش مصنوعی برای انجام برخی تکالیف را فراهم کنند. در این راستا، دانشگاه هنگ کنک بودجهای 2 میلیون دلاری برای توسعه فناوریهای نوآورانه دریافت کرده است.
دانشگاه هنگ کنگ (HKU) ممنوعیت استفاده از ChatGPT را برای دانشجویان برداشت. پیش از این استفاده از هوش مصنوعی برای دانشجویان در زمینه فعالیتهای کلاسی، دورههای آموزشی و ارزیابی عملکرد ممنوع بود؛ اما دانشگاهیان از سال تحصیلی جدید میتوانند از هوش مصنوعی در تدریس دانشگاهی بهره ببرند.
دسترسی دانشجویان دانشگاه HKU چین به ChatGPT رایگان؛ اما محدود به 20 درخواست برای هر کاربر خواهد بود. یکی از مسئولان دانشگاه هنگ کنک گفت که محدودیتها به دلیل جوگیری از سواستفاده افراد خارجی از حسابهای دانشجویی اعمال میشود.
دانشگاه HKU اخیرا بودجهای به مبلغ 15.7 میلیون دلار هنگ کنگ(2 میلیون دلار آمریکا) برای کمک به توسعه فناوریهای نوآورانه در آموزش دریافت کرده است. این دانشگاه همچنین در نظر دارد با دانشگاههای نخبه در سراسر جهان اتحاد ایجاد کند تا به طور مشترک پتانسیل هوش مصنوعی مولد و مقابله با چالشها را بررسی کند.
دانشگاه Lingnan هنگ کنگ این ماه اعلام کرد که مجوز نسخه 3.5 ChatGPT را خریداری کرده است و به دانشجویان و کارکنان آموزش میدهد تا از این ابزار برای آموزش و یادگیری استفاده کنند. طبق سیاست جدید هوش مصنوعی Lingnan، اساتید میتوانند مشخص کنند که ChatGPT باید برای تکالیف استفاده شود یا خیر.
سرقت ادبی چالش دانشگاههای چینی برای استفاده از هوش مصنوعی
با وجود حمایت دانشگاههای چین برای استفاده دانشجویان و استادان از هوش مصنوعی؛ اما چالشهایی مانند سرقت ادبی، استفاده غیراخلاقی از این ابزار و تاثیر هوش مصنوعی بر یادگیری هم وجود دارد.
دانشگاه Lingnan قصد ندارند به اندازه دانشگاه HKU سختگیری کند. به همین دلیل، محدودیتی در استفاده از هوش مصنوعی اعمال نکرده؛ اما در عوض استفاده از هوش مصنوعی را منوط به تایید استادان کرده است. به طوری که اساتید باید مشخص کنند که دانشجویان چه زمانی میتوانند از GPT برای تکالیف نوشتاری استفاده کنند و چه زمانی نمیتوانند استفاده کنند.
برخی از دانشگاههای دیگر چین از جمله دانشگاه علم و صنعت هنگ کنگ و دانشگاه آموزش هنگ کنگ، قبلاً مجوز محدودی را در ماه مارس به دانشجویان برای استفاده از ابزارهای مولد هوش مصنوعی اعطا کردند.
منبع: خبرگزاری آریا
کلیدواژه: هوش مصنوعی انگلیس استفاده از هوش مصنوعی ابزار هوش مصنوعی دانشگاه های چین هوش مصنوعی هوش مصنوعی برای استفاده برنامه نویسی زبان ها هنگ کنگ مدل ها
درخواست حذف خبر:
«خبربان» یک خبرخوان هوشمند و خودکار است و این خبر را بهطور اتوماتیک از وبسایت www.aryanews.com دریافت کردهاست، لذا منبع این خبر، وبسایت «خبرگزاری آریا» بوده و سایت «خبربان» مسئولیتی در قبال محتوای آن ندارد. چنانچه درخواست حذف این خبر را دارید، کد ۳۸۵۶۰۴۲۳ را به همراه موضوع به شماره ۱۰۰۰۱۵۷۰ پیامک فرمایید. لطفاً در صورتیکه در مورد این خبر، نظر یا سئوالی دارید، با منبع خبر (اینجا) ارتباط برقرار نمایید.
با استناد به ماده ۷۴ قانون تجارت الکترونیک مصوب ۱۳۸۲/۱۰/۱۷ مجلس شورای اسلامی و با عنایت به اینکه سایت «خبربان» مصداق بستر مبادلات الکترونیکی متنی، صوتی و تصویر است، مسئولیت نقض حقوق تصریح شده مولفان در قانون فوق از قبیل تکثیر، اجرا و توزیع و یا هر گونه محتوی خلاف قوانین کشور ایران بر عهده منبع خبر و کاربران است.
خبر بعدی:
سفر امیرعبداللهیان به گامبیا
وزیر امور خارجه جمهوری اسلامی ایران در راس هیاتی به منظور شرکت در پانزدهمین اجلاس سران سازمان همکاری اسلامی در گامبیا، تهران را به مقصد بانجول پایتخت این کشور ترک کرد.
به گزارش ایسنا، در اجلاس سران سازمان همکاری اسلامی که طی روزهای شنبه و یکشنبه ۱۵ و ۱۶ اردیبهشت ماه جاری با موضوع اصلی «ارتقای وحدت و همبستگی از طریق گفتگو پیرامون توسعه پایدار» برگزار میشود، مسائل و چالشهای مختلف جهان اسلام به ویژه موضوع فلسطین و وضعیت جاری در باریکه غزه مورد بحث و بررسی قرار میگیرد.
در این اجلاس در مجموع سه سند شامل پیش نویس قطعنامه فلسطین، پیش نویس بیانیه بانجول و پیش نویس سند نهایی نشست سران برای تصویب به ترتیب به نشست شورای وزیران امور خارجه و سپس اجلاس سران ارائه خواهد شد.
حسین امیرعبداللهیان ضمن حضور در این اجلاس، مواضع جمهوری اسلامی ایران را در قبال تحولات جهان اسلام و منطقهای و بینالمللی تبیین خواهد کرد.
وی همچنین در حاشیه این اجلاس با برخی مقامات کشورهای اسلامی دیدار و گفتگو خواهد کرد.
انتهای پیام