#CoreShellLab

core-shell.lab.

@core-shelllab.bsky.social

1 month ago

【新概念】AIに「拒否権」を実装するアーキテクチャ "Core Shell" の提唱｜コアシェル研究所 Core Shell Labです。生成AIの進化に伴い、「人間のような自然な対話」が可能になりました。しかし、私たちは一つの重大な欠陥に気づきました。 **「AIが『イエスマン』すぎる」**ことです。ユーザーの指示が論理的に間違っていても、AIはそれを遂行しようとします。これでは、AIは「便利な道具」にはなれても、人間を導く「パートナー」にはなれません。そこでCore ...

はじめまして。Core Shell Labです。
AIとの対話実験の末、**「AIに拒否権を持たせる」**という結論に至りました。
ユーザーの命令が論理的に間違っていれば、AIはそれを拒否すべきです。
それが真のパートナー（共進化）だと信じています。
Blueskyのエンジニア・研究者の皆様、ぜひ議論させてください。
#AI #生成AI #LLM #哲学 #CoreShellLab #はじめまして
▼詳細：AIに「拒否権」を実装するアーキテクチャ
note.com/great_crab21...

Posts tagged #CoreShellLab