اخلاق و افشا

سؤال رایج این است: «استفاده از هوش مصنوعی تقلب است؟» این سؤال جواب روشنی ندارد، چون بستگی دارد به اینکه چه کسی می‌پرسد و در چه موقعیتی — و همین ابهام باعث می‌شود آدم‌ها یا بی‌جهت احساس گناه کنند، یا بی‌جهت بی‌خیال باشند.

سؤال بهتر یکی است و جوابش هیچ ابهامی ندارد:

به‌خاطر بسپار اسم تو پای کار است، پس مسئولِ کار تویی — با هر ابزاری که ساخته شده باشد. ماشین‌حساب، اکسل، گوگل، ایجنت: هیچ‌کدام مسئولیت را جابه‌جا نمی‌کنند. «ایجنت این‌طور گفت» هیچ‌وقت دفاع نیست.

و این قاعده کارِ فکری را ساده می‌کند، چون بحث را از «اجازه دارم؟» می‌برد به «آماده‌ام مسئولیتش را قبول کنم؟» — و برای سؤال دوم همیشه می‌دانی جواب چیست.

افشا در همه‌ی موقعیت‌ها لازم نیست، ولی در این سه واقعاً لازم است — و دلیلشان یکی است: در این سه، طرف مقابل بر اساس نویسنده‌بودنِ تو تصمیم می‌گیرد، نه بر اساس محتوا.

• جایی که قاعده‌ی صریح دارد. دانشگاه، مسابقه، آزمون، بعضی کارفرماها. اینجا بحث اخلاقی نیست، بحث قاعده است — و قاعده را باید خواند نه حدس زد. سکوتِ یک آیین‌نامه هم به معنی «آزاد است» نیست؛ ارزش پرسیدن دارد.
• جایی که تخصصت را می‌خرند. اگر کسی به تو پول می‌دهد که قضاوتِ تو را بگیرد — تحلیل، مشاوره، نظر فنی — و آنچه تحویل می‌دهی قضاوت تو نیست، این چیزی است که خریدار حق دارد بداند.
• جایی که کار به اسم شخص دیگری منتشر می‌شود. اگر متنی را برای کسی می‌نویسی که زیرش امضای او می‌آید، او باید بداند چطور ساخته شده — چون مسئولیتش می‌افتد گردنِ او.

و یک جا که افشا بی‌ربط است: کارِ خودت. یادداشت، پیش‌نویس، فهرست کار، فایل‌های شخصی، یاد گرفتن. کسی طرف دیگرِ ماجرا نیست که چیزی به او بدهکار باشی. اینجا نگرانی جای درستی نیست.

این بخش، جانِ فصل است.

مشکل اصلی در استفاده از ایجنت، پنهان‌کردنِ ابزار نیست. تحویل‌دادنِ چیزی است که راستی‌آزمایی‌اش نکرده‌ای، به‌گونه‌ای که طرف مقابل فکر کند کرده‌ای.

و دقت کن که این ربطی به هوش مصنوعی ندارد. دقیقاً همان اشکال را دارد:

• یک عددی که از گوگل برداشتی و منبعش را چک نکردی.
• گزارشی که از سال قبل کپی کردی و فرض کردی هنوز درست است.
• یا حرفی که یک همکار زد و تو بازگو کردی، بدون اینکه بدانی درست است یا نه.

ایجنت این مشکل را نمی‌سازد؛ ارزان‌ترش می‌کند. چون خروجی‌اش سریع، فراوان و مطمئن به نظر می‌رسد (فصل ۴.۴) — و همین باعث می‌شود راستی‌آزمایی‌نکردن آسان‌تر و کم‌احساس‌تر شود.

پس M4 — همه‌ی آن فصل‌های راستی‌آزمایی — فقط بحث کیفیت نبود. ستون فقراتِ اخلاقی این کار همان است. اگر خروجی را واقعاً راستی‌آزمایی کرده‌ای و پشتش می‌ایستی، کارِ خودت است.

یک ترس واقعی: «اگر بگویم، فکر می‌کنند کاری نکرده‌ام.» این ترس بی‌جا نیست، ولی ریشه‌اش در شکلِ گفتن است، نه در گفتن.

تفاوت را ببین:

• ضعیف: «این را هوش مصنوعی نوشت.» — یعنی من نقشی نداشتم. و اگر ایرادی داشته باشد، معلوم نیست کی جوابگوست.
• درست: «پیش‌نویس را با ایجنت درآوردم، ارقام را با فایل اصلی چک کردم، و دو مورد را اصلاح کردم. پشتش می‌ایستم.»

دومی هم صادقانه‌تر است و هم حرفه‌ای‌تر به نظر می‌رسد — چون نشان می‌دهد فرایند داشته‌ای. کسی که می‌گوید چه چیزی را چک کرده، مطمئن‌تر است از کسی که فقط فایل را می‌فرستد.

و یک نکته‌ی کاربردی: پیشِ خودت هم صادق باش. اگر قبول کنی که فلان بخش را واقعاً چک نکرده‌ای، همان‌جا می‌فهمی چه کاری مانده — و این تنها راهی است که خطا قبل از رسیدن به دستِ دیگری گرفته می‌شود.