AI時代に「あえてAIを使わない」選択
私は、生成AIを活用してユーザーの不調検知や精神的問題の軽減ができないかという研究をしたいと思っていました。また、日々コーディングに生成AIを利用していました。しかし、ここ最近AI利用について考え直すようになりました。
理由は主に3点あります。
- セキュリティの懸念(プライバシー問題等)
- 倫理的問題(知的財産権等の侵害ほか)
- AI依存のリスク
AI時代を生きるうえで、もちろんAIを積極的に活用することも良いでしょう。しかし、「あえてAIを使わない」選択にも意義があると思います。ただ、AIにも利点がありますし、完全に使わない、と必要以上に避ける必要もありません。
今回はAIを使わないことについて考察します。
セキュリティ問題
AIの問題点といえば、真っ先にセキュリティ問題が浮かぶでしょう。
多くの生成AIサービスでは、学習させないための設定があります。設定し忘れた状態、あるいは意図的に設定せずに生成AIを利用することで、自分や他者の個人情報、社内資料、その他倫理的問題で後述する著作物や性的な画像などが学習されてしまう恐れがあります。
ここで恐ろしいのが「設定し忘れた」だけでなく、「意図的に設定せずに」他者のプライバシーを侵害することができる点です。嫌がらせなどの悪意を持って、無断で他人の個人情報や秘密の資料、あるいはリベンジポルノなどといったコンテンツを学習させることができてしまいます。そして、その本人が知らない秘密裏に実行できてしまいます。
実際にAIに学習されれば、それを削除することはできません。半永久的に漏洩リスクがあるのです。
そもそも、生成AIに存在する「学習させない」設定が本当に有効に働いているのかもわかりません。オープンソースでない以上、ユーザーがそれを確認する術はありません。多くのLLMでは裏側がブラックボックスになっているので、本当に学習に使用していないのか、完全に信用することはできません。
そういった拒否の設定があるだけまだ良いかもしれません。AIが普及した社会では、意図せず知らずのうちに自らの情報が利用されているリスクがあります。まちなかの監視カメラや公共施設・店舗などの設備もAIを利用しているものがあります。もちろん匿名で収集されますが、それを望まない方もいるかもしれません。
アプリケーションなどのプライバシーポリシーで学習利用などが明記されていると思いますが、しっかり読む方は正直少ないでしょうし、同意しないと利用できないため半強制的に学習利用されることになります。
この辺りの話になってくると極端な感じもしますが、人種や性的指向、考え方の違いや障害など要配慮個人情報が含まれると、いろいろな人がいる以上 拒否権なく収集されるのはどうかな？と思ってしまいます。従来からマーケティングなどのためにデータが匿名収集されていますが、AI学習となると また考えが変わる方もいるでしょう。
倫理的問題
AIの学習データには、著作権や商標権、特許権など知的財産権を含みます。また、児童ポルノも含まれていると聞いたことがあります。出力メディアが文字であっても音声であっても画像であっても、倫理問題が発生することになります。
AIが生成するコンテンツは、学習データに基づくものです。まだ人類が誰も見たことないものは、当然学習データにないわけですから、正確に出力することはできません。
生成物を使用する際、意図せず権利侵害をしてしまう恐れがありますが、私はそれよりも「学習させることを望んでいない著作者による作品」や前述の児童ポルノといったコンテンツが含まれていることを問題に感じています。
こういったデータは、ディープフェイクが生成されやすくなるリスクがあります。ディープフェイクとは、AIで作成した嘘(フェイク)の情報をいいます。SNSなどでフェイクニュースとして拡散され問題になっています。災害時にデマが拡散されれば、本当に救助が必要な現場への影響が考えられますし、それ以外でも特定の個人や団体に対する名誉棄損的なデマが流れる可能性も否定できません。また、人物の写真をAIで加工し、性的な画像を生成することも問題になっています。
これらのディープフェイクは、災害時の混乱を起こしたり、誰かを傷つけたりする恐れがあります。
意図的に知的財産権を侵害するコンテンツやディープフェイクを生成しなくても、学習データに含まれているため生成の際にこれら問題のある学習データが参照されるかもしれません。私がいつも言っている「技術で人を救う」ためにAIを利用したつもりが、知らずのうちに誰かが傷ついているかもしれません。
また、LLMが実行されているデータセンターなどの電力消費も問題になっています。環境問題やエネルギー問題が叫ばれて久しい中、AIをむやみやたらに利用することは、環境に対しても負担がかかっているのかもしれません。
こういった諸問題は、「みんながしあわせに生きられる世の中を作る」「技術で人を救う」という私の考えに反することになります。
AI依存のリスク
なんでもかんでもAIに頼ってしまうと、思考力など能力の低下が懸念されます。
実際、私もプログラミングに生成AIを利用していたら、コーディング力が下がったと感じたことがあります。
このまま世界中でAI化が進めば…… 人間は弱体化してしまうかもしれません。SFでAIが人間を支配する、なんてよくありますが、それが現実になるかもしれません。
創造力や共感力など、人間ならではの力が失われたら、彩りのない、寂しい世の中になってしまうかもしれません。
もっとも、危険な作業や人手不足が深刻な業界など、機械に代替されるのが望ましい職業も存在します。しかし、何から何まで全部AIがやってしまったら、人間の温かみがない、社会は豊かになったとしても心が豊かでなくなる、そんな気がしています。
例えば、バスの運転手不足が社会問題になっていますが、私がよく利用する市営バスで、ときどき推し運転手さんに遭遇することがあります。運転がとても丁寧で乗り心地が良く、アナウンスも聴いていて安心する声で、丁寧な案内をされるのです。仮に自動運転に置き換えられ、人間の乗務員がバスに乗らなくなったら、こういった人間味のあるアナウンスなどがなくなってしまうわけです。よく利用するスーパーなどでの従業員との何気ない繋がりも、機械で自動化されたら寂しく感じるかもしれません。
あえてAIを利用しないことは、人が本来持っている個性を発揮し 世界を彩る、AI時代には逆に価値あることになるでしょう。
「技術で人を救う」ために
上で挙げた3点は、少し大げさに書いています。実運用上、そこまで心配する必要はありません。
ただ言いたいことは、私の「技術で人を救う」とは つい最近まで AI相談や見守りなど、AI技術で人を救うことだと考えていました。そんな中、「適度に技術を利用しつつも、最終的に人を救うのは人」ということに気が付きました。
ピンチに陥ったとき、機械が当たり前のようにサポートしてくれるよりも、生身の人間が一緒になってサポートしてくれたほうが心が温まるでしょう。私自身も経験がありますが、精神的にしんどくて、どうしようもなくて、死にたい、自分を傷つけるしかない…… そんなとき、AIはとても身近に居ますが、なんだか寂しい感じがします（もっとも、ハルシネーションの問題があるため身体や生命の危機があるときにAIは過信できませんが）。
結局は、人間が話を聴いてくれて、共感してくれ、一緒に考えてくれたほうが、心理的にほっとします。ただ隣にいてくれるだけでも効果があるでしょう。
ただ、AIがダメというわけではなく、人には言いにくい話をすることができますし、愚痴を聞かせても相手は機械ですから傷つける心配はありません。それはAIならではのメリットでしょう。
そこで、心が温まる人間と、機械的に何かをこなすAI、それぞれを使い分けたうえで、最後の意思決定や実際の人助けは人間がおこなうのが良いのではないか、と考えています。それが「適度に技術を利用しつつも、最終的に人を救うのは人」ということです。
私は今後、個人での利用時はともかく、AIを利用したアプリケーションを開発する際、AIの利点と欠点をしっかり踏まえたうえで どのような運用が適切か検討し、「傷つく人を1人でも減らす」と「助かる人を1人でも増やす」の両立を目指します。
ウェルビーイングな社会の実現のため、あえてAIを使わない、人の手が入る余白を作ることが、効率化社会からの脱却（幸福化）のために必要不可欠でしょう。