生成AIの普及により、AIが作る文章だけでなく、ニュース記事やSNSのポスト、インフルエンサーの発言など人間が生成したコンテンツの真偽も問われるようになってきています。
こうした状況に合わせて、株式会社Accel BrainのAI分析プラットフォーム「PARAs AI」は、新たに「人間が発信する虚偽情報」を検知する機能を追加。
AIと人間の両方のコンテンツを同一の基準でチェックできるようになりました。
「人間が発信する虚偽情報」を検知する機能を追加
これまでAI分析プラットフォーム「PARAs AI」は、生成AI由来の誤情報や論理破綻といった生成AIハルシネーションの検出を中心に展開されてきました。
生成AIの構造的な限界や「AIバブル崩壊」の懸念、フェイクニュースへと悪用される実態に対し、新たに「人間が発信する虚偽情報」を検知する機能を追加したことで、マスメディアの配信記事やSNSで拡散する投稿、個人発信のスピーチまでを対象に、同一のアルゴリズムで信頼性を検証できるようになっています。
【人間の虚偽情報検知機能】
・人間が発する虚偽情報
・事実誤認
・論理的誤謬
・客観的エビデンス不足
エビデンスの不足や論理の飛躍、偏りの有無を検知することが可能で、ひとつの出来事について複数のソースを並べて比較し、整合性の差も可視化できます。
「人間が発信する虚偽情報」検知機能の活用シーン
「人間が発信する虚偽情報」を検知する機能は、主に下記のようなシーンで活用できます。
【「人間が発信する虚偽情報」検知機能の活用シーン】
・マスメディアのニュース記事の信頼性検証
・SNSで拡散される投稿のファクトチェック
・インフルエンサーの発言における論理的整合性の分析
・GEO戦略によって最適化されたコンテンツの偏り検出
・フェイクニュースの早期発見と拡散防止
SNS運用では、急拡散するポストの根拠を短時間で洗い出し、誤情報の連鎖を早い段階で遮断する判断材料になったり、インフルエンサーの発言を引用する時でも、引用元の主張が“言い過ぎ”や“決めつけ”になっていないかを機械的に点検できます。
また、近年はSEO(検索エンジン最適化)だけでなく、生成AIに取り上げられることを目指したGEO(生成エンジン最適化)も重要になってきています。
最適化されたコンテンツの偏り検出により、誰の主張がどのように強調され、どの根拠が欠けているのかを並列で分析します。
今後のアップデートにも期待
AIが書く文章と人間の語る言葉を分けて考える時代は終わり、両者を同じ物差しで点検する必要が高まってきています。
「PARAs AI」の機能追加アップデートは、発信者に依存しない「横断的な検証プラットフォーム」を提供するものです。
今後は、大量の検証ニーズに応えるための大容量処理プランやAPI連携機能の拡充、多言語対応の強化などが計画予定。
拡散速度が速いSNSやネット界隈において、公開前と公開後の両局面で「根拠」と「論理」を継続的に点検できることが、現場運用の価値になります。
「PARAs AI」サービス詳細
■サービス名：PARAs AI
■料金プラン：Free Plan / Starter Plan / Professional Plan
■公式サイトはこちら
