به گزارش خبرنگار ایکنا؛ حمیدرضا ربیعی، استاد دانشگاه صنعتی شریف صبح پنجشنبه 18 آبان در نشست تخصصی «هوش مصنوعی و خلاقیت‌های انسانی» با ارائه سخنرانی خود با عنوان «هوش مصنوعی انسان‌محور؛ اخلاقی و قابل اعتماد» گفت: متأسفانه ما در کشورمان چندان به زیست‌بوم اهمیت نمی‌دهیم و جمهوری اسلامی باید این را درنظر داشته باشد که با یکی دو مورد موفقیت در هوش مصنوعی نمی‌تواند بر دنیا تأثیرگذار باشد. هر فعالیتی در این زمینه انجام می‌شود، باید با این زیست‌بوم هماهنگ باشد، چرا که یک رهبر ارکستر می‌خواهیم که سازش کوک باشد.
وی با بیان اینکه هوش مصنوعی یک فناوری دگرگون‌ساز است، بیان کرد: هوش مصنوعی یک حوزه از فناوری است که به سرعت در حال رشد بوده و پیامد‌های بالقوه قابل توجهی برای جامعه بشر دارد و به همراه اینترنت اشیا، فناوری‌های شناختی، فناوری کوانتومی و چندین فناوری دیگر دگرگون‌سازترین فناوری محسوب می‌شود و در سال‌های اخیر بخش‌های متعددی مانند مراقبت‌های پزشکی، کسب و کار، کشاورزی، آموزش، حمل و نقل، توسعه شهری و روابط بین‌المللی را تحت تأثیر قرار داده است. بنابراین عدم توجه به این مفهوم می‌تواند کشور را از دیدگاه امنیت ملی آسیب‌پذیر کند.
ربیعی ادامه داد: کشور‌های پیشرو دنیا در حال توسعه برنامه‌های کاربردی هوش مصنوعی برای طیف وسیعی از عملکرد‌های غیرنظامی و نظامی هستند و تحقیقات هوش مصنوعی در زمینه‌های جمع‌آوری و تجزیه و تحلیل اطلاعات، لجستیک، عملیات سایبری، عملیات اطلاعاتی، فرماندهی و کنترل و انواع خودرو‌های خودران و خودمختار در حال انجام است.
وی با اشاره به گزارش‌های معتبر شاخص‌های هوش مصنوعی گفت: گزارش شاخص آمادگی هوش مصنوعی دولت‌های آکسفورد نشان می‌دهد رتبه ایران در میان ۱۸۱ کشور جهان، ۷۵ است و در میان ۱۸ کشور خاورمیانه رتبه ۱۲ را دارد.
وی تصریح کرد: تعداد حوادث مربوط به سوء استفاده از هوش مصنوعی به سرعت در حال افزایش است؛ چرا که تقاضا برای مهارت‌های حرفه‌ای مرتبط با هوش مصنوعی تقریباً در هر بخش صنعتی آمریکا در حال افزایش بوده و برای اولین بار در دهه گذشته، سرمایه‌گذاری خصوصی سال به سال در هوش مصنوعی کاهش یافته است. در حالی که نسبت شرکت‌هایی که هوش مصنوعی را نپذیرفته‌اند، کاهش یافته است و شرکت‌هایی که هوش مصنوعی را پذیرفته‌اند به پیشرفت خود ادامه می‌دهند و علاقه سیاستگذاران به هوش مصنوعی در حال افزایش است.
این استاد دانشگاه با بیان اینکه امنیت ملی از نگهداشت داده‌ها به وجود نمی‌آید، بلکه از از دست دادن جوانان ایجاد می‌شود، بیان کرد: باید در این زمینه برنامه‌ریزی و هماهنگی شود تا جوانان و نیروی انسانی خبره را حفظ کنیم و اجازه ندهیم به راحتی وطن خود را ترک کنند. متأسفانه در حوزه هوش مصنوعی، در مرحله برگزاری همایش هستیم و اگر بخواهیم با دنیا در این زمینه رقابت کنیم، بدون سرمایه‌گذاری غیرممکن است.
ربیعی در ادامه مخاطرات هوش مصنوعی را مورد اشاره قرار داد و گفت: صنعت در حوزه هوش مصنوعی از دانشگاه جلوتر است و هوش مصنوعی هم به محیط زیست کمک می‌کند و هم به آن آسیب می‌رساند. مدل‌های هوش مصنوعی به سرعت پیشرفت‌های علمی را تسریع می‌کنند. خطا‌های هوش مصنوعی زیاد است و تمام سازمان‌های بزرگ بر هوش مصنوعی اخلاقی تأکید دارند و راهکار‌هایی برای آن پیشنهاد شده است و دنیا بر این مسئله حساس است و سال‌ها پیش اروپا استفاده از یکسری از مسائل در زمینه اخلاقی را ممنوع کرده است. بنابراین دنیا به این نتیجه رسیده است که هوش مصنوعی باید اخلاقی و قابل اعتماد باشد و راه‌حلی جز هوش مصنوعی انسان‌محور وجود ندارد.
وی تصریح کرد: هوش مصنوعی قابل اعتماد چند مؤلفه دارد و از جمله آن‌ها؛ هوش مصنوعی معتبر، حافظ حریم خصوصی، مسئولیت‌پذیر و توصیف‌پذیر است که بسیاری از سیستم‌های هوش مصنوعی آن را ندارند. در واقع هوش مصنوعی قابل اعتماد به توسعه و استقرار سامانه‌های هوش مصنوعی اشاره دارد که قابل اعتماد و مسئولیت‌پذیر هستند. همچنین هوش مصنوعی قابل اعتماد، اطمینان حاصل می‌کند که سامانه‌های هوش مصنوعی به گونه‌ای طراحی و مورد استفاده قرار می‌گیرند که اعتماد، شفافیت، انصاف و رفاه انسان را ارتقا دهند.
این استاد دانشگاه با اشاره به ویژگی‌های هوش مصنوعی قابل اعتماد بیان کرد: یکی از ویژگی‌ها قابلیت اطمینان است که سامانه‌های هوش مصنوعی قابل اعتماد بوده و برای اهدافی که طراحی شده‌اند، عمل کنند و خطا‌ها و سوگیری‌ها را به حداقل برسانند. شفافیت ویژگی دیگری است که این سامانه‌ها باید توصیف‌پذیر باشند و استدلال روشنی در پشت تصمیم‌ها و اقدامات خود ارائه دهند. کاربران و ذی‌نفعان باید بتوانند درک کنند که سیستم هوش مصنوعی چگونه کار می‌کنند. کاهش تبعیض نیز ویژگی دیگری است که سامانه‌های هوش مصنوعی باید گونه‌ای طراحی شوند که از تعصبات و تبعیض‌های ناعادلانه جلوگیری کنند، آن‌ها باید با همه افراد منصفانه رفتار کنند، بدون اینکه هیچ گروه خاصی را براساس ویژگی‌هایی مانند نژاد، جنسیت یا وضعیت اقتصادی و اجتماعی مورد حمایت یا ضرر قرار دهند.
وی با بیان اینکه اگر ما مسائل اخلاقی مبتنی بر دین اسلام را در حوزه هوش مصنوعی ارائه دهیم، دنیا آن را خواهد پذیرفت، گفت: سیستم هوش مصنوعی اخلاقی باید توانایی تصمیم‌گیری در مواردی که ارزش‌های اخلاقی با آن درگیر هستند، را داشته باشد. این شامل مواردی می‌شود که برای تصمیم‌گیری نیاز به انتخاب بین گزینه‌های متعارض دارد. همچنین سیستم هوش مصنوعی اخلاقی باید بتواند تصمیمات و اقدامات خود را توجیه کند و توضیح دهد که چرا یک تصمیم خاص را انتخاب کرده است. این امر به کاربران و سایر افراد کمک می‌کند تا درک بهتری از رفتار سیستم داشته باشند و به ارزش‌های اخلاقی آن اعتماد کنند. سیستم هوش مصنوعی اخلاقی باید حریم خصوصی افراد را رعایت کند و اطلاعات حساس را به طور محرمانه و امن از سوی کاربران مورد استفاده قرار دهد. این شامل جلوگیری از سوء استفاده از اطلاعات شخصی و حفظ امنیت سیستم در برابر حملات و نفوذ‌های خارجی است.
ربیعی تأثیر اجتماعی هوش مصنوعی را مورد اشاره قرار داد و بیان کرد: هوش مصنوعی انسان‌محور به تأثیر و خیر عمومی فناوری هوش مصنوعی توجه دارد. این رویکرد به تأثیر سیستم‌های هوش مصنوعی روی افراد و جامعه توجه می‌کنند و سعی می‌کنند تأثیرات منفی را کمینه و سودمندی‌ها را بیشینه کنند. همچنین هوش مصنوعی انسان‌محور به توسعه و استفاده مسئولانه و جامع از فناوری هوش مصنوعی تأکید می‌کنند. این رویکرد نیازمند همکاری بین حوزه‌های مختلف از جمله محققان، سیاستگذاران، رهبران صنعت و سازمان‌های جامعه مدنی است. در واقع با تأکید بر ارزش‌ها، نیاز‌ها و بهره‌مندی‌های انسانی، هوش مصنوعی انسان‌محور سعی در ایجاد سیستم‌های هوش مصنوعی معنادار، قابل اعتماد و سازگار با اهداف و آرزو‌های مشترک ما دارد.
این استاد دانشگاه صنعتی شریف با اشاره به همکاری هوش مصنوعی با انسان‌ها افزود: سیستم هوش مصنوعی اخلاقی باید قادر باشد با انسان‌ها به طور اثربخش و اخلاقی همکاری کند. این شامل تفهیم نیاز‌ها و اهداف انسانی، تعامل مؤثر در فرایند تصمیم‌گیری و ارائه راهنمایی و پشتیبانی مناسب به انسان‌ها است. هر چند که هوش مصنوعی اخلاقی یک مفهوم مهم است، اما هنوز در مراحل اولیه توسعه قرار دارد و چالش‌های بسیاری را برای پژوهشگران و صنعتگران در این زمینه ایجاد می‌کند و این مسئله شامل مسائلی مانند تعریف دقیق ارزش‌ها و اصول اخلاقی، پیاده‌سازی تصمیم‌گیری‌های اخلاقی در سیستم‌های هوش مصنوعی پیچیده و مسائل حقوقی و قانونی مربوط به مسئولیت سیستم‌های هوش مصنوعی است.
وی در پایان تصریح کرد: شرط لازم برای بقا، شکوفایی و بالندگی کشور، استفاده و تسلط بر فناوری‌هایی است که آینده را به صورت پایدار با امکانات و منابع محدود شکل می‌دهند و می‌سازند.
انتهای پیام
The post ایران بین 18 کشور خاورمیانه در هوش مصنوعی رتبه 12 دارد Originally appeared on iqna.ir