بر اساس یک مطالعه جدید از بیش از 2,000 عنوان کتاب مذهبی که اخیراً منتشر شدهاند، تقریباً دو سوم کتابهای مذهبی نمونهبرداری شده در آمازون احتمالاً توسط هوش مصنوعی نوشته شدهاند.
در گزارشی که چهارشنبه منتشر شد، شرکت تشخیص هوش مصنوعی Originality.ai از 2,034 کتاب، 1,272 مورد یا 63% را در 14 دسته مذهبی و اعتقادی به عنوان احتمالاً نوشته شده توسط هوش مصنوعی علامتگذاری کرد.
جادوگری بالاترین نرخ را داشت؛ 78% از کتابهای نمونهبرداری شده از دسته "ویکا، جادوگری و پاگانیسم" آمازون به عنوان احتمالاً نوشته شده توسط هوش مصنوعی طبقهبندی شدند. این عناوین شامل موضوعاتی مانند کریستالهای شفابخش، داروهای گیاهی، و پاکسازی "انرژیهای منفی" بودند. به گفته مایکل فرایمن، نویسنده گزارش، بسیاری از کتابهای جادوگری بر همین موضوعات تمرکز داشتند.
فرایمن به دکریپت گفت: «میتوان مشتری ایدهآل را فردی تصور کرد که به دنبال راهحلهایی برای شفای خود، بهبود سلامت روان، یا "سمزدایی" از مواد شیمیایی و داروهای رایج است.» «این کتابهای ویکان میتوانند به این نگرانیها بدون اینکه مشمول هیچ استاندارد علمی باشند، رسیدگی کنند.»
هندوئیسم با 76% در رتبه دوم قرار گرفت، پس از آن تائویسم با 74% قرار داشت، در حالی که آیین سیک، بودیسم، اسلام، کاتولیسیسم، پروتستانتیسم، مسیحیت ارتدوکس و یهودیت در این بین قرار گرفتند. مورمونیسم 42%، آتئیسم 40% و شیطانپرستی 22% را به خود اختصاص دادند. محققان هشدار دادند که اندازه نمونهها بین دستهبندیها تفاوت چشمگیری داشت.
فرایمن گفت که محققان توضیحات کتاب، بیوگرافی نویسنده و نمونهها را تحلیل کردند و متنی که امتیاز 50 یا بالاتر کسب کرده بود را به عنوان "احتمالاً هوش مصنوعی" طبقهبندی کردند. با این حال، او هشدار داد که نتایج نشاندهنده احتمال است، نه اثبات.
او گفت: «ما ادعای قطعیت در مورد اینکه آیا کتابها قطعاً توسط هوش مصنوعی نوشته شدهاند، نمیکنیم.» «مدل ما احتمال اینکه چیزی توسط هوش مصنوعی نوشته شده باشد را با درجهای از اطمینان تعیین میکند.»
فرایمن خاطرنشان کرد که محققان همچنین کتابهایی را که به عنوان احتمالاً تولید شده توسط هوش مصنوعی علامتگذاری شده بودند، به صورت تصادفی بررسی کردند.
او افزود: «در این مرحله، تیم تحقیقاتی ما میتواند تفاوت بین محتوای احتمالاً نوشته شده توسط هوش مصنوعی و محتوای نوشته شده توسط انسان را تشخیص دهد.»
در حالی که فرایمن نسبت به یافتهها ابراز اطمینان کرد، ابزارهای تشخیص هوش مصنوعی نتایج مثبت کاذب و متناقض تولید کردهاند.
در اکتبر 2024، آزمایشی بر روی چهار ابزار تشخیص هوش مصنوعی هنگام تحلیل اعلامیه استقلال ایالات متحده نتایج متناقضی را نشان داد. ZeroGPT متن را 97.93% تولید شده توسط هوش مصنوعی یافت، در حالی که QuillBot آن را کاملاً نوشته شده توسط انسان تشخیص داد و GPTZero احتمال 89% برای انساننوشته بودن آن قائل شد.
اخیراً، در ماه مارس، دیوان عالی کلمبیا یک پرونده حقوقی را پس از اینکه ابزارهای تشخیص، آن را تولید شده توسط هوش مصنوعی علامتگذاری کردند، رد کرد. زمانی که یک وکیل حکم دادگاه را به همان ابزار تشخیص ارائه داد، 93% آن را تولید شده توسط هوش مصنوعی ارزیابی کرد.
آمازون بلافاصله به درخواست دکریپت برای اظهار نظر پاسخ نداد.
او گفت: «آمازون از میزان رایج بودن محتوای نوشته شده توسط هوش مصنوعی در پلتفرم خود آگاه است و از سیستم افتخاری استفاده میکند تا نویسندگان کار خود را به عنوان نوشته شده توسط هوش مصنوعی معرفی کنند.» او اضافه کرد که شرکت یافتههای خود را با آمازون به اشتراک نگذاشته است. «ما هیچ دادهای در مورد اینکه چند نویسنده واقعاً این موضوع را افشا میکنند، نداریم.»
استفاده از کتابهای فیزیکی برای آموزش هوش مصنوعی نیز مورد بررسی دقیق قرار گرفته است، زیرا توسعهدهندگان میلیونها عنوان را خریداری میکنند، آنها را از هم جدا میکنند، صفحاتشان را برای مجموعهدادههای آموزشی اسکن میکنند و نسخههای اصلی را دور میریزند.
در ماه آگوست، یک تحقیق یک محموله از کتابهای کمیاب را به یک مرکز آمازون در لاسوگاس ردیابی کرد، جایی که کارگران جلد آنها را برش داده و صفحات را برای دادههای آموزشی هوش مصنوعی اسکن کردند. آمازون تایید کرد که کتابها را از طریق کانالهای تجاری برای این عملیات خریداری میکند.
