キャリブレーション

絶対やらないだろうけど日本の新聞にも導入してほしい。「AIで記事の偏向度を分析するバイアスメーターを導入、記事にバイアスがあるかを理解できるようにする」／記事「偏り」をAIで表示　米有力紙が計画、記者は反発 - 日本経済新聞 https://t.co/kboGXTkEY4

— 佐々木俊尚 (@sasakitoshinao) December 7, 2024

アメリカのメディアで、AIで記事の偏向度を分析することを考えているという話。評価され記者あるいはそのデスクは良い気持ちはしないのだろうけど、でもこう言う「補正作業」は必要ですよね。

仕事で使う検査機器などは、必ず決められた期間に一度精度や機能が必要な条件や範囲に収まっているか「補正作業(=キャリブレーション)」を受けないと仕事に使用してはいけない決まりで、昔はハードウェアに近い部分のソフト開発とかしていたので、オシロスコープとかデジタルアナライザーとか繋いで、タイミングを見たりトリガーを仕掛けたりしてデバッグしていましたねぇ。私の頃は、まだ最初の頃はTTLで組んだ(比較的)単純なチップとかだったから、そこから信号を取り出したり入れたりすることも何とかで来たけれど、直ぐにどんどん実装密度や集積密度があがって、そんなことも出来なくなったし、仮に出来たとしても外部装置の影響でタイミングがずれるという本末転倒な場合も生まれたりして、大変でした。今のエンジニアはどうやっているんだろうか。

同じように、情報に関してもリアルタイムにライブでその現象を自分が見ていたならば良いけれど、少しでも第三者経由で伝わってきた情報を受け入れる場合には、それがどれくらいフィルタリングされて、ノイズが含まれて、変調されているのか判断しないと、本当の意味での「情報」には接することが出来ず、何らかのバイアスが掛かったものを「事実」として誤認識して解釈してしまうおそれも。特にメディアを通して接する場合もそうだけれど、ネット経由でも「ライブ風」に伝える場合もあるし、定点カメラのようにその情報をそのまま垂れ流しにしていない場合は、何らかの変更が含まれていると思わないといけない。更に、そう言う事になれてしまうと、最初はほんの少しのノイズだったり違いだったものが、どんどん蓄積されて知らない間に大きな変化に成長していても自分では気がつかない事も有るんじゃ無いだろうか。だから、どこかで自分の考え方というか、思考形態を補正する行為が必要だと思いますね。

本来ならば「基準となる情報元」発の情報と照らし合わせて、違いを認識して補正すれば良いのだから、残念ながらネットの世界ではそういう存在は皆無と言って良いほど。じゃぁどうするかというと、以前佐々木俊尚氏が提案されていたように、まずは複数の情報源を決めて、それらから受け取る情報を比較して自分なりの判断をして行くという事が重要になりますよね。後個人的に必要だと思うのは、あえて反対意見だったり突拍子も無い意見にも触れてみて、自分がその情報に対してどれだけ正統性を説明できるか試してみるのも必要だと思う。それって、テスターの端子をくっつけてあえて抵抗が0になる、乾電池の電圧を測定して「1.5V」である事を確認して見るみたいな、「分かってても確認し見る」事も必要でしょうね。それに近い話で最近経験したのが、日本の同人誌や漫画などのアーカイブサイトが、クレジットカード利用が出来なくて停止になったという話。最初は、エロ系の漫画などが問題視されたという話を聞いて「然もありなん」と思いましたが、実はそれってクレジットカードの恣意的利用ではないかと、カード会社に確認をして、実はカード会社とサイトの間に存在する中間会社の判断という事が分かる見たいな話でした。これも、しっかり情報の源流へ遡ってみると、途中で解釈なり意図が偏向されて言っていることが分かるわけで、これもある種の「キャリブレーション行為」だなと思うわけです。AIに全てを任すことは出来ないけれど、AIだとこの手の作業は苦にしないという特性を生かせば、かなり有効じゃ無いかと言う気はします。でも、AIの学習機能に対してのキャリブレーションもしっかりしないと、逆に頑固で偏屈なAIが出来てしまい、二進も三進も行かなくなったりして(笑)。