دو شیمیدان برجسته هشدار دادهاند که استفاده از هوش مصنوعی مولد برای تولید تصاویر مرتبط با ساختارهای شیمی، مانند ساختارهای مولکولی، میتواند خطاهای جدی ایجاد کرده و روند آموزش نسل بعدی دانشمندان را مختل کند. تحقیقات و آزمایشهای اخیر نشان میدهد که حتی سادهترین ترکیبات مانند بنزن یا کافئین توسط ابزارهای هوش مصنوعی به شکل نادرست ترسیم میشوند و تکرار دستورات مختلف باز هم نتایج متفاوت و پرخطا ارائه میدهد. آدری مورز و وانیا زوین زایدلر در مقالهای در Nature Reviews Chemistry خواستار ممنوعیت استفاده از GAI برای نمایش مولکولها و عناصر شیمیایی شدهاند. آنها تأکید میکنند که این مسئله نه مشکل هوش مصنوعی به خودی خود، بلکه به کمتوجهی کاربران در بررسی صحت ترسیمها مربوط است و میتواند بر درک و آموزش دانشجویان شیمی اثرات مخربی بگذارد.
چرا ترسیم مولکولها توسط AI هنوز قابل اعتماد نیست؟
استفاده از هوش مصنوعی مولد (Generative AI) در بسیاری از زمینهها، از تولید محتوا تا طراحی گرافیک، به سرعت در حال گسترش است. اما در دنیای شیمی، دو محقق برجسته هشدار میدهند که این فناوری میتواند مشکلات جدی ایجاد کند. آدری مورز، شیمیدان متخصص نانوذرات و شیمی سبز در دانشگاه مکگیل کانادا، و وانیا زوین زایدلر، شیمیدان حوزه پایداری در دانشگاه لوفانا آلمان، معتقدند که هوش مصنوعی نباید برای ترسیم ساختارهای مولکولی یا نمایش عناصر شیمیایی استفاده شود.
مورز میگوید که انگیزه اصلی نوشتن مقاله در Nature Reviews Chemistry مشاهده خطاهای متعدد در تصاویر مولکولی تولید شده توسط AI در مجلات و ارائههای علمی بود. «یک مقاله روی جلد یک مجله شیمی سبز با تصاویر تولیدشده توسط AI واقعاً زیبا به نظر میرسید، اما وقتی دقیق نگاه کردید، ساختارهای شیمیایی کاملاً اشتباه بودند.»
این مشکل تنها به بنزن محدود نمیشود. حتی مولکولهای ساده مانند کافئین نیز توسط سه ابزار هوش مصنوعی آزمایششده، به شکل نادرست ترسیم شدند. مورز میافزاید: «گاهی اوقات تصاویر درست به نظر میرسند و اولین واکنش ما این است که ‘چه تصویر زیبایی’ اما کمی دقت بیشتر نشان میدهد که خطا وجود دارد.»
مسئله، به گفته این دو محقق، نه خود AI بلکه کاربرد آن در ترسیم شیمی است. بسیاری از کاربران بررسی کافی انجام نمیدهند و همین باعث میشود خطاها در ارائهها و مقالات علمی دیده نشوند. مورز ادامه میدهد: «برای اولین بار، هوش مصنوعی ساختارهایی ایجاد میکند که تصمیمی سنجیده از سوی شیمیدان برای ترسیم آنها گرفته نشده است. اکنون یک سیستم تصمیم میگیرد که یک حلقه بنزن ناقص رسم شود.»
با نگاه اول، تصاویر جدول تناوبی به نظر منطقی و درست میآیند، اما با بررسی دقیقتر، چندین خطا آشکار میشود
در پاسخ به این چالش، برخی ناشران قواعد و راهنماییهایی وضع کردهاند. برای مثال، Nature اعلام کرده که تا اطلاع ثانوی، به جز مقالاتی که خود به AI اختصاص دارند، هیچ محتوایی را که بهطور کامل یا جزئی با هوش مصنوعی تولید شده باشد منتشر نخواهد کرد. همچنین، انجمن سلطنتی شیمی توصیه میکند که در صورت استفاده از AI برای تولید تصاویر، اطمینان حاصل شود که دادههای آموزشی دارای مجوز کامل هستند و خروجی قابل استفاده تجاری باشد. الزویر نیز استفاده از AI برای ایجاد یا اصلاح تصاویر در مقالات علمی را ممنوع کرده، مگر اینکه به روش قابل بازتولید و همراه با توضیح استفاده شود. وایلِی نیز تولید یا تغییر تصاویر علمی با AI را محدود کرده و در موارد استثنایی، استفاده باید افشا شود.
در حالی که برخی از سامانههای هوش مصنوعی قادر بودند ساختارهای صحیح برای مواد شیمیایی بسیار ساده تولید کنند، در مورد کافئین عملکرد ضعیفی داشتند و هیچیک از سه سامانه آزمایششده، ساختار درست آن را رسم نکردند
با وجود این مقررات، مورز و زایدلر معتقدند که سیاستها باید جدیتر باشد. آنها خواستار ممنوعیت کامل استفاده از GAI برای ترسیم مولکولها و عناصر در محتواهای بصری هستند تا از انتشار خطاهای علمی جلوگیری شود. مورز تأکید میکند: «در وضعیت فعلی هوش مصنوعی، نباید اجازه دهیم که مولکولها توسط AI ترسیم شوند. اگر میخواهیم از AI برای محتوای خلاقانه استفاده کنیم، اشکالی ندارد، اما ساختارهای شیمیایی را باید خودمان رسم کنیم.»
این هشدارها نه تنها به مسئله دقت علمی مربوط میشود، بلکه پیامدهای آموزشی نیز دارد. استفاده نادرست از AI میتواند موجب شود دانشجویان شیمی، تصورات اشتباه از ترکیبات و واکنشها پیدا کنند و درک عمیق از شیمی و اصول پایهای آن مختل شود.
مورز و زایدلر نتیجه میگیرند که جامعه شیمی باید هنگام استفاده از هوش مصنوعی، به دقت، صحت و اعتبار علمی توجه کند. آنها میگویند: «به عنوان دانشمندان، مسئولیت داریم که نمایندگی دقیق جهان را ارائه دهیم. اشتباه در نمایش ساختارهای مولکولی میتواند دید ما نسبت به شیمی و آموزش آن را تغییر دهد.»
چالشی مانند ساختار مایتوتوکسین، یکی از بزرگترین و پیچیدهترین ترکیبات طبیعی شناختهشده، منجر به تولید ساختارهای شیمیایی بیمعنی شد
