AIを実用的かつ安全に使う

/

皆さん、こんにちは。
またブログに戻ってきて読んでいただき、ありがとうございます。
英語学習の助けとして、少しでもお役に立てれば嬉しいです。

今日のトピックは、ここ数年で様々なサービスやシステムに導入され、何百万人もの人々が毎日使用しているもの、AI（人工知能）についてです。
皆さんも、仕事や日常生活、調べ物などでAIを使い始めたのではないでしょうか。今では日常の検索において、Googleに代わるほどの非常に強力なツールになっています。
とはいえ、気になるのは「どれくらい安全で正確なのか？」という点です。AIの人気が高まるにつれて、この疑問はますますよく聞かれるようになりました。今日はそのあたりを少し見ていきましょう。

「要約ツール」としてのAI

私は、批判があることを理解しつつも、AIをかなり頻繁に使っています。AIはデータや情報を素早く集めて、わかりやすくまとめてくれるツールだからです。調べ物をする際に、食品・栄養・料理に関するちょっとした情報を探したり、パソコンの不具合の傾向をつかんだりする時によく使います。というのも、私は自分の電子機器を修理するのが趣味だからです。

ただし、AIは膨大な情報を高速で検索して要約してくれる一方で、その正確性には問題が出ることもあります。質問を続けていると、やがてAIが「Hallucination（幻覚・妄想）」を起こし始めるからです。

ハルシネーションには注意しましょう

AIの幻覚・妄想とは、AIが情報を取り込んではいるものの、それを誤ってまとめたり、混同したりする現象です。特定の単語や数字、計算を間違えてしまうこともありますが、要するに「辻褄が合わない情報」を出し始める状態のことです。

例えば、特定のハードウェアの問題について質問しているのに、しばらくすると全く別の機器の解決策を提案し出す。これがもっともらしい嘘、ハルシネーションです。

このような現象はオンラインのAIツール全般でよく見られ、特に画像生成では分かりやすく、指の形がおかしかったり、顔のパーツが歪んでいたりと、不自然な箇所が生まれやすいです。これらもハルシネーションの一種です。

そしてこの問題は、将来的にさらに深刻化する可能性があります。ネット上の情報がAI生成のものばかりになると、AIがAIを要約する状況が増えるためです。つまり、嘘を含んだ情報を別のAIがまとめ、そのAIもさらにハルシネーションを起こし…という連鎖が起きてしまいます。
そうなると、最終的にはナンセンスな情報ができあがってしまいます。

だからこそ、AIツールから得た情報をどう使うか、私たち自信がしっかり意識する必要があります。

情報は必ず「検証」しましょう

まとめると、AIは私たちの未来を大きく形作る、とても有用で強力なツールです。すでに医療・技術・エンターテインメントなど数多くの分野で進歩を加速させ、情報を素早く得る手助けにもなっています。

しかし使う際には、「これは本当に正しい情報なのか？」「AIがただ私を喜ばせるために言っているだけでは？」と、必ず一度立ち止まって考えることが大切です。

AIは膨大な「人間の知識」を基盤に作られていますが、その設計上、簡単に嘘をついたり、もっともらしく合理化してしまうことがあります。だからこそ、AIが提示する内容は、必ず自分で確認する習慣を持ちましょう。

英語学習でも同じです。迷ったら、先生に確認してみてくださいね！
Denny

 

[英語原文]

Using AI Practically and Safely

Hi everyone, thanks for coming back to our blog and having a read. Hopefully it’s both informative and useful as a tool for studying English.

Today’s topic is going to be on something that is, day by day, being implemented in many different systems and used by millions of people daily - AI! You’ve probably started using it over the past few years for work, life, gathering information, etc. It’s an incredibly powerful tool that is quickly replacing Google searches for daily use.

The question though is how safe and accurate is it? It’s a question being asked more frequently as AI continues to rise in popularity, so let’s explore that a little bit!

AI as a summarizer

I use AI quite a lot, despite some criticisms of it. It’s a very fast tool for gathering data and information into a neat summary. I often use it for research purposes, finding quick info on food, nutrition and cooking, and also sometimes identifying patterns in computer problems - my hobby is, after all, fixing my own electronic devices.

That being said, while AI is really good for gathering and summarizing a lot of information by searching databases incredibly quickly, it also tends to have some problems in the accuracy of that information. Eventually after a good amount of querying, AI begins to “hallucinate”. What is that?

Take care with hallucinations

AI hallucinations are basically when the tool starts to gather information but summarize or implement it incorrectly. It could be by mixing up certain words, numbers or calculations, but what happens is it’ll start coming up with information that starts to not make much sense. Maybe you’ll be asking about a specific problem with hardware, and after a while it’ll start coming up with solutions for a completely different piece of hardware. That’s a hallucination.

This kind of issue is fairly common across all AI tools online and you can see it a lot in image generation - the AI will generate an image but it might create weird finger shapes, faces or other details that are incorrect. These are also hallucinations.

This problem is potentially going to compound in the future too - as more of the internet becomes mostly AI (a very different topic but be VERY careful about trusting info online nowadays, a lot of it is now fake or AI generated!), AI will summarize AI - which means hallucinated information becomes summarized by another AI, which might hallucinate more, and so on. Eventually, you get total nonsense, so you need to be really careful about how you use information you gain from AI tools.

Verify your information!

To conclude: AI is a totally useful and powerful tool that will shape the future as we know it. It’s already helping advance the fields of medicine, technology and entertainment by leaps and bounds, and is also helping people find information faster.

However, be careful about how you use it - in other words, remember to keep thinking and ask the question of “Is this accurate or not?” and “Is AI only saying this to make me feel good about it?”. AI is a tool built on the foundations of human knowledge, so it’s good at bringing all that information forward for you - but it can hallucinate and rationalize things very easily because of the way it’s designed, so always take care to verify what it provides you so it’s accurate. Same goes for English language learning too - verify with your teachers!

-Denny