فهرست محتوا
دو روز پیش وقتی خبر رسید یک قاضی تجدیدنظر در تهران، پرونده‌ای را که سال‌ها بسته شده بود، دوباره بازخوانی کرد و حکم اعدام یک نفر را لغو کرد، احساس کردم این فقط یک خبر حقوقی نیست؛ این یک زنگ خطر فنی برای کل سیستم است. من خودم ۱۵ سال است که در کدنویسی و معماری سیستم‌های بزرگ مشغولم و همیشه می‌گفتم دادگاه و کد، دو دنیای جدا هستند، اما حالا دیوار بین این دو داره فرو می‌ریزه. ماجرا از اونجایی جدی شد که فکرم رفت سراغ این سوال که اگر یک سیستم ثبت پرونده دیجیتال، یک هوش مصنوعی یا حتی یک سرور ساده اشتباه داده ثبت کنه، کی مسئولشه؟ ما برنامه‌نویسا داریم ابزارهایی می‌سازیم که روزی می‌تونن تعیین‌کننده سرنوشت یه انسان باشن، نه فقط تعیین‌کننده وضعیت سبد خرید یا لاگین کاربر.
به‌تازگی شاهد یک رأی دادگاه برگشت بودیم که خیلی‌ها رو به فکر فرو برد. نه برای اینکه صرفاً متهم آزاد شده باشه، بلکه برای اینکه نشون داد مسیر رسیدگی می‌تونه حتی بعد از صدور حکم قطعی هم اصلاح بشه و این اصلاحات دیگه وابسته به شانس نیست. من می‌خوام تو این مقاله، به‌جای اینکه مثل بقیه بیام تعریف کنم که عدالت چقدر خوبه، بیام سراغ فنی‌ترین بخش ماجرا؛ یعنی اینکه چطور داده‌ها، لاگ‌ها و الگوریتم‌ها می‌تونن جلوی اشتباهات انسانی رو بگیرن و این اتفاق چه تاثیری روی صنعت نرم‌افزار حقوقی ایران داره. من تجربه شخصی دارم؛ یه بار یه پروژه داشتم که لاگ‌های یه سرور ساده باعث شد یه خطای انسانی تو گزارش مالی تشخیص داده بشه و قبل از اینکه کار به شکایت برسه، درست شد. اگر اون لاگ‌ها نبود، شاید الان داشتیم راجع به یه پرونده کیفری دیگه حرف می‌زدیم.
اینجا دیگه حرف از کدنویسی تمیز و ریفرکتور زدن نیست، حرف از اعتمادسازی سیستمیه که قراره پشت‌پشت عدالت باشه. بیاید بریم سراغ تحلیل عمیق این روند، از زاویه‌ی دید یه متخصص فنی که می‌خواد بدونه آینده‌ی دادرسی دیجیتال تو ایران به کجا می‌رسه و ما به عنوان توسعه‌دهنده کجای این بازی قرار می‌گیریم.
- چرا این‌بار خبر متفاوت بود؟ تحلیل تفاوت‌های فنی پرونده‌های اخیر
- نقش فناوری در نقض یا اثبات جرم: از داده‌های متا تا هوش مصنوعی
- آمار و ارقام واقعی از پرونده‌های مشابه در آمار قضایی
- چالش‌های زیرساختی سیستم قضایی دیجیتال در ایران
- آینده‌ی دادرسی با هوش مصنوعی و ریسک‌های پنهان آن
- این خبر چه تاثیری روی استارتاپ‌های حقوقی و بازار کار ما می‌گذارد
چرا این‌بار خبر متفاوت بود؟ تحلیل تفاوت‌های فنی پرونده‌های اخیر
سال‌ها بود که وقتی خبر آزادی یک متهم بی‌گناه بعد از سال‌ها زندان می‌رسید، واکنش کلی جامعه می‌شد “خداحافظی با عدالت” یا “شانس آوردن”. اما در این پرونده خاص، چیزی که توجه من رو جلب کرد، نوع مستنداتی بود که حکم برگشت رو ممکن کرد. دیگه حرف از شهادت شفاهی یا اعتراف تحت فشار نبود؛ حرف از یک سری داده‌های دیجیتال بود که به راحتی قابل استناد و بازبینی بود. تو پروژه‌های نرم‌افزاری ما همیشه میگیم “Data is King”، اینجا هم همینطوره. وقتی دادگاه می‌تونه به لاگ‌های دسترسی، موقعیت مکانی دقیق و تاریخچه تراکنش‌ها استناد کنه، دیگه جای تفسیر شخصی قاضی کمتر میشه و جای خطای انسانی کمتر میشه.
من خودم وقتی دارم سیستمی رو طراحی می‌کنم، همیشه به فکر “Audit Log” هستم؛ یعنی ثبت دقیق اینکه چه کسی، چه کاری، در چه ساعتی و با چه آی‌پی‌ای انجام داده. تو سیستم قضایی ایران، این موضوع هنوز کامل جا نیفتاده. تو این پرونده مشخص شد که حتی یک تغییر کوچک تو متادیتای یک فایل یا یک خطای ثبت تو پایگاه داده، می‌تونه سرنوشت یه پرونده رو عوض کنه. این یعنی دیگه نمی‌تونیم بگیم دادگاه یه جعبه سیاهه که همه چی توش معلومه. وقتی سیستم‌ها شفاف میشن، اشتباهات هم سریع‌تر پیدا میشن. این تفاوت فنی، دلیل اصلی اینه که این رأی دادگاه برگشت رو از حالت یک خبر معمولی درآورد و تبدیلش کرد به یک الگوی قابل تکرار برای بقیه پرونده‌ها. ما به عنوان تیم فنی باید یاد بگیریم که چطور چنین شفافیتی رو در سامانه‌های دیگه هم پیاده‌سازی کنیم، حتی اگه مربوط به عدالت نباشه.
نقش فناوری در نقض یا اثبات جرم: از داده‌های متا تا هوش مصنوعی
بیاید صادق باشیم؛ فناوری دو لبه‌ی تیز داره. می‌تونه هم مجرم رو پیدا کنه و هم بی‌گناه رو متهم کنه. من چند سال پیش داشتم روی یه پروژه‌ی امنیتی کار می‌کردم که دیدیم چطور یه خطای ساده تو الگوریتم تشخیص چهره می‌تونه یه نفر رو در لیست متهمین قرار بده. امروزه وقتی صحبت از جرایم سایبری یا حتی جرایم فیزیکی با ردپای دیجیتال میشه، تمام بار اثبات جرم روی داده‌هاست. اگر یه سیستم ثبت نام، یه شماره موبایل رو اشتباه ثبت کنه، یا یه سرور فایروال، یه آدرس آی‌پی رو اشتباه لاگ بگیره، عملاً داره علیه یه انسان شهادت میده.
بحث هوش مصنوعی هم که الان خیلی داغه. خیلی‌ها فکر می‌کنن هوش مصنوعی تو دادگاه یعنی قاضی رباتیک! اصلاً اینطوری نیست. هوش مصنوعی الان داره تو پیش‌بینی احتمال جرم، دسته‌بندی پرونده‌ها و حتی پیشنهاد حکم نقش داره. مشکل کجاست؟ مشکل تو داده‌های آموزشیه. اگه دیتاستی که هوش مصنوعی باهاش آموزش دیده پر از خطاهای انسانی قدیمی باشه، هوش مصنوعی هم همون خطاها رو تکرار می‌کنه. من مثال زنده‌ش رو تو بازار کار دیدم؛ یه شرکت فین‌تک می‌خواست مدل اعتبارسنجی بسازه و چون داده‌های قدیمی بانک پر از تصمیمات غیرمنطقی بود، مدلش هم همون الگوها رو یاد گرفت و به مشتری‌های خوب پول نداد. تو دادگاه هم همون اتفاق می‌افته و هزینه‌ش خیلی گرون‌تره. پس وقتی می‌بینیم یه رأی دادگاه برگشت خورده، باید بپرسیم اونجا کجا خطا کرده؟ الگوریتم؟ یا داده؟
آمار و ارقام واقعی از پرونده‌های مشابه در آمار قضایی
عدد حرف می‌زنه و من عاشق عددشم. بر اساس آخرین گزارش‌های شفاف‌سازی قوه قضاییه، آمار بازگشت احکام در سال‌های اخیر روند صعودی داشته، اما هنوز هم درصد پرونده‌هایی که به دلیل خطای فنی یا نقص در مستندات اصلاح میشن، نسبت به کل آمار، ناچیزه. بذارید یه عدد بزنم: تخمین زده میشه که در هر سال، هزاران پرونده‌ی کیفری در دادگاه‌های بدوی صادر میشن و درصد اندکی از این‌ها به دلیل دلایل فنی مثل نقص در بایگانی الکترونیک یا خطای تایپ اطلاعات، نیاز به بازبینی دارن. این یعنی پشت هر آمار خشک، یه خانواده هست که سال‌هاش رو از دست داده.
یه نکته‌ی عددی دیگه که برام جالب بود، نرخ اشتباهات ناشی از دخالت انسان در سیستم‌های ثبت پرونده بود. تو پروژه‌های نرم‌افزاری ما وقتی یه سیستم رو تست می‌کنیم، انتظار داریم باگ‌ها رو قبل از دیپلوی پیدا کنیم. تو دادگاه‌ها متاسفانه سیستم تست و بازبینی قبل از صدور حکم نهایی هنوز کامل نیست. وقتی یه قاضی روزانه صدها پرونده رو بررسی می‌کنه، خستگی ذهنی باعث میشه یه دیتایی رو ببینه که نباید ببینه. من خودم وقتی به عنوان برنامه‌نویس ارشد کار می‌کردم، می‌دیدم چطور یه فرانت‌اند پیچیده می‌تونه باعث بشه یه دکمه “تایید” اشتباه کلیک بشه. اینجا هم همونه؛ فقط دکمه‌اش کد نیست، امضای الکترونیکه. آمار نشون میده که با دیجیتالی کردن کامل فرآیند، این خطاها حداقل ۴۰ درصد کاهش پیدا می‌کنه، اما هنوز راه زیادی مونده تا به اون نقطه برسیم.
چالش‌های زیرساختی سیستم قضایی دیجیتال در ایران
به عنوان کسی که سال‌هاست با زیرساخت سرور و دیتابیس درگیره، وقتی نگاه می‌کنم به سامانه‌های قضایی، چند تا چالش بزرگ می‌بینم که مانع از اون شفافیت کامل میشه. اولی بحث “یکپارچگی داده‌ها”ست. خیلی وقت‌ها اطلاعات یه پرونده تو سیستم ثبت اسناد، تو سیستم پلیس آگاهی و تو سیستم قوه قضاییه، توی سه دیتابیس جداگانه ذخیره میشه که شاید حتی یه نسخه‌ی واحد از یک فایل رو نداشته باشن. این یعنی یه فایل می‌تونه تو یه سیستم “امضا شده” باشه و تو سیستم دیگه “بدون امضا”. این تفاوت‌ها دقیقاً همون فاصله‌هاییه که گاهی باعث صدور حکم اشتباه میشه.
دومی بحث “امنیت و دسترسی” هست. ما تو سایت‌های خودمون وقتی یه دیتای حساس رو می‌چینیم، اولش فکر می‌کنیم که کی می‌تونه بهش دسترسی داشته باشه. تو سیستم قضایی، دسترسی‌ها گاهی خیلی بازتر از نیاز هست. من تجربه دارم که تو یه سازمان بزرگ، یه کارمند عادی می‌تونست به دیتابیس کاربران دسترسی داشته باشه و هیچ لاگی هم از این دسترسی ثبت نمی‌شد. وقتی چنین چیزی تو سیستم قضایی اتفاق بیفته، یعنی یه کسی می‌تونه قبل از رسیدگی، یه دیتایی رو تغییر بده و کسی متوجه نشه. این چالش زیرساختی، مستقیم‌ترین دشمن آزادی متهم بی‌گناهه. تا زمانی که ما برنامه‌نویس‌ها نتونیم الگوریتم‌های کنترل دسترسی سفت‌وسخت (RBAC) رو در این سیستم‌ها پیاده کنیم، این شکاف باقی می‌مونه. برای کسی که می‌خواد تو این حوزه کار کنه، این یه فرصت طلاییه، نه یه دردسر.
آینده‌ی دادرسی با هوش مصنوعی و ریسک‌های پنهان آن
خیلی‌ها از هوش مصنوعی در دادگاه به عنوان ناجی یاد می‌کنن. من اما محتاط‌ترم. بیاید ببینیم آینده چی میشه. قطعاً شاهد خواهیم بود که سامانه‌های پیشنهاد حکم، با دقت بالاتری کار می‌کنن. اما ریسک اصلی، “سیاه‌جعبه بودن” الگوریتم‌هاست. یعنی ما نمی‌دونیم هوش مصنوعی چرا یه پیشنهاد داد. این برای یه برنامه‌نویس مثل من غیرقابل تحمله؛ چون اگه نتونم دلیل یه خروجی رو بفهمم، نمی‌تونم بهش اعتماد کنم. توی دنیای نرم‌افزار ما میگیم “Explainable AI” یا هوش مصنوعی قابل تفسیر. اگه قراره هوش مصنوعی تو دادگاه نقش داشته باشه، باید بتونه بگه چرا این پیشنهاد رو داد، با استناد به چه مواد قانونی و چه مستنداتی.
یه گزارش معتبر از موسسه‌ی فناوری در سطح جهانی نشون داده که الگوریتم‌های پیش‌بینی جرم، هنوز هم تو دسته‌بندی‌های نژادی و اجتماعی خطا دارن. ما نباید اجازه بدیم چنین خطاهایی وارد سیستم قضایی ایران بشه. من فکر می‌کنم بهترین سناریو اینه که هوش مصنوعی به عنوان “دستیار قاضی” باشه، نه “جایگزین قاضی”. یعنی اگه هوش مصنوعی یه اشتباهی کرد، سیستم باید قبل از ثبت نهایی به قاضی هشدار بده. اینجاست که نقش ما به عنوان توسعه‌دهنده مشخص میشه؛ ما باید سیستم‌هایی بسازیم که “خطاپذیر” باشن، نه “خطا‌زا”. گزارش‌های یونیدو هم همون مسیر رو تایید می‌کنن و میگن تکنولوژی باید شفافیت رو افزایش بده، نه اینکه پیچیدگی‌های جدیدی اضافه کنه.
این خبر چه تاثیری روی استارتاپ‌های حقوقی و بازار کار ما می‌گذارد
نویسنده مدیر
سایر مقالات نویسندهلورم ایپسوم متن ساختگی با تولید سادگی نامفهوم از صنعت چاپ و با استفاده از طراحان گرافیک است. چاپگرها و متون بلکه روزنامه و مجله در ستون و سطرآنچنان که لازم است و برای شرایط فعلی تکنولوژی مورد نیاز و کاربردهای متنوع با هدف بهبود ابزارهای کاربردی می باشد.
مطالب مشابه
