生成AIを使う敵と戦う技術を研究しよう。
Posted: 12 5 2025, 01:23
Grok とか ChatGPT とかの生成AIを使って私達に反論しようとするのは、国内左翼の間でも流行りそうですし、外国人はもっとやりそうなので、対抗する技術をこちらも研究する必要がありそうです。
AI も誤情報を掴めば間違った事しか言わないという話を、AIが苦手な私なりに南京大虐殺は Grok があったと言っているからあった、AIにGIGOは当てはまらないと言う人 - posfie のようにしたりしましたが、外国人の頭のレベルでは無理なのかも知れません。
おにのふぐりさんの Grok が Grok も間違うと言っている画像は、使えそうだなと思います。英語で聞いてみても多分同様の答えが得られて再現出来るかなとも思います。
思った通り、 Grok は無条件に信用できるものではない事を答えてきました。
ChatGPT に ChatGPT の出力は学術的なソースになるか英語で聞いたりもしました。ならないと否定されました。
ただ、海外の敵に、こういう話を持ち出すのが効果があるのかどうか、自信がなくなってきました。でも、生成AIで反論文を書く人間に負けない研究は引き続き必要なのだろうなという感じ。
私は慣れていないので別の人の成果も見れた方が有り難いですけど。
AI も誤情報を掴めば間違った事しか言わないという話を、AIが苦手な私なりに南京大虐殺は Grok があったと言っているからあった、AIにGIGOは当てはまらないと言う人 - posfie のようにしたりしましたが、外国人の頭のレベルでは無理なのかも知れません。
おにのふぐりさんの Grok が Grok も間違うと言っている画像は、使えそうだなと思います。英語で聞いてみても多分同様の答えが得られて再現出来るかなとも思います。
私の方でも3件ほど、おにのふぐりさんがした質問を日本語で Grok に投げてみました。 https://x.com/i/grok/share/X7Oh3v1bJOrS9TemxcuO92HsQ
思った通り、 Grok は無条件に信用できるものではない事を答えてきました。
ChatGPT に ChatGPT の出力は学術的なソースになるか英語で聞いたりもしました。ならないと否定されました。
まともな生成AIの技術者は、生成AI技術の限界を理解しているので、自分の作品に、自分たちは間違わないとか、そんな事は言わせないものなのだろうと思います。Question: Can ChatGPT's outputs be valid scientific sources?
ChatGPT:
ChatGPT's outputs cannot be considered valid scientific sources. Here's why:
Not Peer-Reviewed: Scientific sources are typically peer-reviewed by experts in the field. ChatGPT's responses are not.
No Original Research: ChatGPT does not conduct experiments, gather data, or publish findings—hallmarks of a scientific source.
No Accountability: Scientific sources have identifiable authors and institutions responsible for their content. ChatGPT responses do not.
Information Accuracy: While ChatGPT can synthesize information based on its training, it may not always be accurate, up-to-date, or correctly cited.
However, ChatGPT can help in:
Explaining scientific concepts clearly.
Summarizing existing research.
Generating ideas or outlines for papers.
Locating references (with user verification).
If you're writing a scientific paper or doing research, you should always rely on primary or peer-reviewed secondary sources, and use ChatGPT only as a tool for support or clarification.
Would you like help finding reliable scientific sources on a particular topic?
ただ、海外の敵に、こういう話を持ち出すのが効果があるのかどうか、自信がなくなってきました。でも、生成AIで反論文を書く人間に負けない研究は引き続き必要なのだろうなという感じ。
私は慣れていないので別の人の成果も見れた方が有り難いですけど。