AI規範と価値観、第3部（全3部）：私たちが信じるもの

AI の規範と価値観に関する連載の第 3 回、最終回へようこそ。このドキュメントの一部は Substack で個別に公開済みです。全体として、私たちが技術と AI に対して抱く原則、そして互いと顧客に対して負う倫理的なコミットメントを述べたものです。AI について書くつもりが、最後には自分たち自身について書いていました。ビジョンを掲げる宣言ではなく、honeycomb での日々の働き方から生まれたものです。連載はここで終わりますが、議論は終わりません。The Psychology of Software Teams（先月出版されたばかり！）の著者 Cat Hicks 博士は、卓越して生産的で、人間味のある環境をどう作るかについての業界の研究と思考に大きく貢献してきました。今後数週間、Hicks 博士と私はそれぞれのブログでこの対話を続けます。新しい Leading With Observability の回も公開し、公開募集の webinar も開催します。AI 時代に人間としてどう振る舞うかについて、最も手強い質問を持ち込んでください。今、コンピューティングは奇妙な時期にあります。変化が多すぎて、速すぎる。技術者としては、その可能性、速度、広がりに目をくらまされそうになります。一人の人間としては、疲れずにいるのが難しい。一方で、AI はただの技術です。他方で、この技術は_確かに違う_。AI は自動化の力ずくではなく、不気味の谷のようなものを呈しています。つるりとした協調と熱意の姿です。人間として扱われていないという、あの漠然とした感覚の源はここにあるのだと思います。ただ、無礼や軽視、他人の時間を気軽に無駄にすることは、AI が発明したものではありません。AI が増幅する問題のそれぞれに、AI が加速して解決できる対応策があります。AI が本題ではありません。本題は私たちです。道具は道具です。メール 1 通で人は集まりもすれば、決裂もする。AI は他者を避けるためにも使えるし、コミュニティを築き豊かにするためにも使えます。違いを生むのは意図、理解、同意、相性であって、技術ではありません。私たちは価値観と第一原理の上に築かれた会社で、技術は人が慣れ親しんだものよりはるかに良くなり得ると頑固に信じています。今もそうしています……ただ AI を使いながら。

私たちが信じていること

AI は道具

AI は強力な道具ですが、結局は道具です。私たちが道具に仕えるのではなく、道具が私たちに仕えます。

あなたの作品はあなたのもの

私は「人間 in the loop」ではない。ループの主人です。これは紛れもなく私のループだ。 自分の作品の品質に責任を持ち、自分のワークフローが正しいかどうかにも責任を持つ。あなたも同じです。「Claude がやった」も「Claude が言った」も言い訳になりません。

基準は上がり続ける

技術の変革はそのたびに性能の基準線を引き直します。誰かが決めたからではなく、できなかったことが可能になったからです。会社、プロダクト、チーム、ツール、個人、いずれも例外ではありません。5 年前に優秀と呼ばれたものは、今日ではただの参加券です。私たちはこれを歓迎します。技術の本質は、いつか必ず追いついてくることです。だから技術者の本質は、_常に先を行くこと_です。

結果がすべて

基準が上がれば結果も良くなります。たいていは速くなることを意味しますが、いつもそうとは限らないし、速度だけの話でもありません。達成すべき結果は何か。「より良い」とはどういう状態か。「卓越している」とはどういう状態か。昨年はできなかったのに今日はできることは何か。結果を本当に意味のあるものにするには、自分自身を測定されることを受け入れる必要があります。すべては実験ですが、記録されない実験は全員の時間を無駄にします。

AI の使い方

手を抜くのか、深く掘るのか

AI を使って素早く作業を片付けることもできるし、問題をより深く考え、より堅牢に作り、より深みのある言葉で語るために使うこともできます。どちらにも適した時と場がありますが、両者は互換できません。見分けてください。

職務のために AI を使い、自分のために AI を使う

仕事では、会社が定めた方法で AI を使って職務を遂行できます。そのための環境とサポートを提供する義務が私たちにはあります。自分の意思で AI を使ってスケジュールを管理したり、文章を整えたり、メンターや話し相手のラバーダックとして使うこともできます。こちらはより私的で主観的で、誰も強制されませんが、AI を使わないからといって高い基準を免れるわけではありません。

AI は使えば使うほど良いわけではない

AI がすべての場面に適しているわけではなく、AI が多いほど常に良いわけでもありません。AI が摩擦やフラストレーションを生んでいる場面があれば、チームと話してそれを減らすかなくす方法を考えてください。道具はあなたのために使うものです。

まず道具を習得し、それから捨てるか決める

ただし、その判断をするときは、よく知らないからではなく十分に使いこなした上で判断していることを確かめ、ときどき判断を見直してください。学習中のフラストレーションは、道具そのもののせいにされがちです。

使用パターン

AI は私たちのシグナル対ノイズ比を良くすべきで、悪くすべきではありません。そのためには 3 つ必要です。自己認識、互いの時間への敬意、そして開かれた対話です。

封筒をきちんと書く

誰かに資料を送るときは、それが何か、なぜ送るのか、相手に何を求めているのか、そして他に役立ちそうな背景を伝えてください。これがあなたのメッセージの「封筒」です。封筒をきちんと書くことには、いくつか重要な効果があります。

自己認識を育てる。 大量の資料を相手に投げて、何も言わずに立ち去るとき、自分が相手に大量の作業を押し付けたかもしれないという事実を見落としがちです。この問題は AI への不満として現れます。AI がそれを簡単にしたからですが、悪いのは AI ではありません。あなたの仕事はあなたの責任です。依頼を詳しく書くと、相手に何を求めているのか、自分が本当に相手から何を得たいのかを考えざるを得なくなります。
対話を始める。 誰かがリンクを投げてくると、命令のように感じられますが、そうではありません。Honeycomb では、私たちは仕事を 割り当て ません。きちんと依頼し、相手に懸念や異論があれば話し合います。これは常に対話であるべきです。「これが私にあるもので、これが私に必要なもの。あなたが適任ですか？今が適切なタイミングですか？何か質問はありますか？」 聞いてください。 誰かから資料や依頼が来て、心が沈むのを感じたら、その感覚に注意を向けてください。あなたが恐れているのは何ですか？

他人の時間と注意を尊重する

自分で最後まで一字一句読んでいない AI 生成の文書を、他人に送ってはいけない。自分の時間と注意を割く価値がないなら、他人が割く価値があると言えるだろうか。低い基準に思えるかもしれないが、これは重要だ。他人の時間と注意を尊重するとは、必要最小限の依頼をすることだ。相手に 152 ページだけ読んでほしいときに、本全体を読ませたりはしない。具体的であることは親切であり、境界を引くことは尊重である。

コミュニケーションの 4 類型

この 4 段階の尺度は、あるコミュニケーションの価値が主に個人から来るのか、主に機能から来るのかを見極めるのに使える。左寄りなら、価値は特定の人の考えや感情に由来する。右寄りなら、価値は主にアイデアや成果物そのものにある。左が個人、右が機能だ。こんなふうに：

個人的コミュニケーションと機能的コミュニケーション

1：個人的な意見

この種のコミュニケーションの価値は、特定の誰かがそう考え、そう感じたという事実、あるいはそれが関係性の中に存在することにある。見知らぬ人が誕生日を祝ってくれなくても気にしないが、パートナーが祝ってくれなければ気にするだろう。自分の分野の専門家が自分の仕事を褒めれば、その重みは大きい。その人を尊敬しているからだ。こうした場面で AI を使うのは、多くの場合、信頼を築くどころか壊している——その関係が AI の介入を明確に歓迎しているのでない限り。（「へえ、上司が AI で俺の誕生日を祝ってきたよ。たいしたもんだ。」）

2：専門的な意見

職業上のコミュニケーションのほとんどはこの類型に入る。その価値の一部は、それがあなたの考えや感情であることに由来するが、すべてではない。情報そのものの質、関連性、専門性、適合性も同じくらい重要だ。

助言をしたなら、その助言はどれだけ優れているか？
レビューを書いたなら、それは明確で、役に立ち、公正で、内容に意外なところがないか？
意見を述べたなら、それはどれだけ専門的で、堅牢で、タイムリーか？

こうした考えを整理し、構成し、あるいは磨くために AI やその他のツールを使うのは問題ない。ただし、それらは依然として明らかにあなたのものであるべきだ。誰かがあなたの意見を求めたり、登壇を依頼したりするとき、その人が欲しいのは_あなたの意見_であり、_あなたの声_で語られたものだ。返答からあなたの声が消えれば、それは背信と受け取られかねない。

3：テキスト成果物

もう一つは成果物だ。成果物の価値は、特定の誰かが考え、感じたものであることには_由来しない_。アイデアそのものに由来する。成果物には PRD、アーキテクチャ図や意思決定記録、戦略文書、議事録などがあり、コードが含まれることもある。成果物は読んでレビューし、コメントやスレッドといったツールで検証する。成果物には通常オーナーがいるが、目標は帰属や著者が誰であるかとは無関係に、協力してアイデアをより良く磨き上げることだ。

4：ソフトウェア成果物

ソフトウェアのように形式的で構造化された情報は、自動化された方法で検証できる。これは書き言葉や話し言葉にはできないことだ。機械にテストさせられるものは、おそらくテストさせるべきであり、論理を大規模に検証するのは、そもそも人間が得意な仕事ではない。とはいえ、ソースコードを読まずにマージするという栄誉のバッジは、実力で勝ち取るものだ。今日の Honeycomb のソフトウェアの大半は、依然としてセクション 3 とセクション 4 の手法を混ぜて検証している。

欲しいものははっきり言う

あるフィードバックが主観寄りか客観寄りかは、いつもはっきり分かるとは限らない。だが、人が何を欲しているかは、たいてい明らかだ。その人が欲しているのは特定の誰かの主観的な個人意見なのか、「最善の案」を見つけることなのか、この二つは違う。自分が何を欲しいか分かっているなら、はっきり言えばいい。相手に何を出してほしいのか分からなければ、聞けばいい。

期待のずれにどう対処するか

今、大量のフラストレーションが、期待のずれと不確実性から生じている。衝動的に AI に責任を押しつけ、細かく管理し始め、誰が AI を、どう、どんな場面で使えるかという規則を打ち出すのはたやすい。だが私たちが採用しているのは大人だ。それは私たちのやり方ではない。AI はただのツールであり、ツールは私たちに奉仕するためにある。

「妥当な投入」の例

5 分でコードを生成し、それを他人の机に放り投げて、相手が 2、3 時間かけてレビューすることを期待するなら、それは失礼だ。だが、5 分でコードを生成し、こう言って送るなら——「やあ、これに 5 分しかかけてないんだけど、時間があったら 5 分以内で直感的に見て、方向性が合ってるか教えてくれない？」——これは問題なさそうに見えるだろう？

意見の例

あるいは、自分が書いた提案にフィードバックを頼んだら、相手が Claude で自分の提案の変種を生成し、まったく新しいものを返してきたとする。自分が欲しかったのが相手の意見なら、これはかなり腹立たしい。手元には消化すべき新しい提案が増え、相手がどう考えているかは依然として分からないからだ。ではどうするか。この内容への対処法はいくつかある。相手のプロンプトを見せてもらうよう頼むこともできるし、もっと具体的にした依頼を出し直すこともできるし、どれが意図的な変更でどれがついでに持ち込まれたものかを見分けるのに大量の時間を費やすこともできる。だがこれは、シグナルがかなり根本的にずれているケースだ。より良い戦略は、おそらくその内容には一切触れず、期待のずれそのものに対処することだろう。相手に、自分が実際に必要としているものを丁寧に伝え、出してもらえるか尋ねるのだ。

パフォーマンス評価の例

最も扱いにくい状況の一つは、同僚からのフィードバックやパフォーマンス評価を受け取り、そこに AI の匂いを嗅ぎ取ったものの、それをどう受け止めればいいか分からないときだ。それは意味を持つのか？どれが相手の書いた部分で、どれが AI の埋めた部分か？自分に渡す前に、相手は自分で読んだのか？聞けば、相手は怒るだろうか？これは信頼を深く損ないうるので、こうしたことを話す余地を残すことが極めて重要だ。これはタブーな話題になってはならない。マネージャーの皆さん、部下に自分からこの話を持ちかけよう。自分のプロセスについて話そう。質問すること、フィードバックを出すことを安全にしよう。私たちはマネージャーが AI を使って仕組みを組み立て、より良いマネージャーになることを積極的に奨励している——会議での自分の振る舞いを記録し、難しい会話の指針を得て、チームメンバーの成果を追跡する。こうしたツールの使い方には無数の価値ある形がある。だが、それらがマネージャーの判断を代替したり、置き換えたりすることはないし、できないし、決してすべきでもない。マネージャーがボタンを押してパフォーマンス評価を生成し、ざっと目を通して部下に渡す——そんな世界は存在しない。これは受け入れられない。自分の仕事がそれほど簡単に自動化できるなら、あなたは何のためにいるのか？ William Zinsser は、書くことは紙の上で考えることだと言った。AI で時間と労力を節約する方法はたくさんあるが、両耳の間にあるあの LLM は、実際に手を動かし、試行錯誤し、そして——そう——書くことで訓練される。それには労力が要る。私たちがあなたに期待する良い判断力を養うために、必ずやらねばならない仕事をしているか確かめよう。その仕事を機械に外注してはいけない。それは直属の部下にとっても、あなた自身にとっても、損になる。

自分の言葉でフィードバックを返す

あと、これはマネージャーたちに言っておきたい。フィードバックはできるだけ自分の言葉で返してほしい。人はAIが生成した文章に対して第六感を働かせるようになっていて、多くの人はそもそも読まない。（私もそうだ。）個人的なやり取りだと思っていたのに、そうではなかったと気づいたときの感覚は、裏切られたときに近い。ただ——これも同じくらい大事なのだが——それが_必ずしも_裏切りに感じられる必要はない。_必ずしも_裏切りであるとも限らない。鍵を握るのは文脈であり、理解であり、信頼だ。英語が第二言語のマネージャーなら、Claudeを使っているのは表現を滑らかにするためだけだと部下に伝えればいい。AIファーストの仕組みがすでに整っているマネージャーなら、自分のプロセスを部下に話し、自動生成された評価を試しに使ってみることに抵抗があるかどうかを聞いてみればいい。この件に対するチームの許容度や熱意は確かにさまざまだが、選択肢は必ずある。人がいて、対話があって、工夫があれば、選択肢は必ずある。

実行機能はこれまで以上に重要になっている

こうしたことは、ほとんどが期待値のすり合わせと、はっきり言うことに帰着する。自分が持っているものはこれ、自分が必要としているものはこれ。これ、やってもらえる？ 私はこれまで、こうしたやり取りを自分で経験し、人の話も山ほど聞いてきた。自分の時間が無駄にされたときは、私も同じように腹が立つ。だが、相手側にいる人間にたどり着いてみると、理由は二つのうちどちらかしかない。相手が、自分がどれだけ時間のかかる厄介な仕事を生み出しているかに_気づいていない_か、あるいは_助けようとした結果として_その厄介さを生んでしまったか。自分の皿から私の皿へ仕事を押しつけようとしたり、自分が片付けるべき厄介事に私を何時間も費やさせようとしたりしたケースは、数えてみても本当に一度もない。

私たちは嫌な奴とは仕事をしない。だが、テレパシーの使える相手と仕事をしているわけでもない。** ** 当たり前だと思いすぎていたことがあまりに多く、もうそれは通用しない。

文書の出所は常に関連する情報である

力関係に差がある状況では、ある文書がどう書かれたのか、どう生成されたのかを問いただすのは簡単ではない。だからマネージャーはワンランク上の責任を負う。だが誰も無関係ではいられない。何かがAI生成なのか人間が作ったのかを尋ねることで、面倒なことにはならない——それは重要で、かつ関連性のある背景情報だ。そして聞かれた側は、誰であれ隠さずに開示すべきだ。ここから最後の注意点が導かれる。自分の成果物の作り方に後ろめたさを感じていて、受け取る側に_知られたくない_と思っているなら……それは重要なシグナルだ。それに従うことを勧める。

私たちが明確な立場を取る倫理的問題

このセクションを書くにあたって、私たちは二つの具体的な過ちを避けたいと考えた。倫理を「大切にしています™」と掲げながら何の裏付けもない、輝かしいビジョンだけの文章を書くつもりはなかった。かといって、果たせない約束をするつもりもなかった。だからここでは、私たちを今の場所に連れてきた原則をいくつか明言し、それがこれまで実際の意思決定をどう導いてきたかを説明する。

AIが生む外部性と害

AIに関連する厄介な外部性は少なくない。

エネルギー消費とカーボンフットプリント
知的財産の窃取
プライバシー
バイアス
レイオフ、減給、次世代への投資削減

私たちは営利企業であり、第一の目的は成功し持続するビジネスを作ることだ。ビジネスが成り立ってこそ、より長期的な計画を立て、より大きな投資ができる。私たちのベンダー審査プロセスには倫理審査が含まれている。条件が同じなら、価値観の一致するベンダー、あるいは二つの悪のうちより小さい方にお金を払う。これはこれからも続ける。

エネルギーと資源の消費について

基盤モデルの生産者ではなく利用者として、正直に言えば、どうすればいいのか私たちにもわからない。残念な話だ。おそらくこれが最も厄介な外部性だからだ。半年後に見直す。

知的財産について

これは厄介だ。モデル提供者たちは何年も前から故意に著作権法を破り、何のお咎めも受けずにすんなり通ってきたように見える。その間に、法を守る競合を締め出し（あるいは追い詰め）さえした。違法だったのか？どうやらそうらしい。だが正直な答えは「わからない」であり、最高裁が法をどう解釈するかが明らかになるまで、私たちにもわからない。では、正しかったのか？もちろん違う。当時それは確立された法であり、彼らは組織的にそれを破った。この行為を事後的に追認すれば、公正な競争と法の遵守を信じる私たちのような企業にとって、憂慮すべき前例になる。倫理と道徳と法律は、決して同じものではない。モデルの利用者として、私たちは法の文言に従い、その精神も尊重する。だが、訓練データの後ろ暗い入手経路から利益を得ていることは承知しており、その分の道徳的負債を負っている。少なくとも、他者の作品を商用利用するときは、出典を示し、クレジットを与え、貢献者に報いることに勤しみ、法が求める以上のことをすべきだ。これはこれまでもやってきたし、これからも続ける。

バイアスとプライバシーについて

「あなたの作品はあなたのもの」とは、AIが持ち込んだバイアスはすべて自分の問題だということでもある。バイアスがどこから入り込みやすいかに目を配り、防ぐ。結果はできる限り検証する。フィードバックを素直に受け取り、直し、先へ進む。プライバシーについては、私たちに何が貢献できるのか、まだわかっていない。

報酬と投資について

私たちは、最小限の金で最大限の労働を搾り取るような会社ではなかった。能力の範囲で最善の報酬を払い、報酬の公平性には極めて真剣に取り組んでいる。ここで働く人が私たちに投資してくれているのと同じように、私たちも彼らに投資する責任があると考えてきた。条件が許せば、ジュニアレベルの人材を採用し育てることも含まれる。R&Dではメンタリングと学習が昇進パスの中心にあり、GTM側ではSDRトラックが同様の役割を担っている。社内で職種転換して再教育を受けた従業員も少なくない。個人開発予算の利用率は高い。報酬バンドにバイアスや不公平がないかを審査し、求人情報で報酬バンドを公開している。ジュニアを支える余力がないのに採用しても、誰の得にもならないことは身をもって学んだ。だが支えられるなら、これまでも採用してきたし、これからも採用する。

行動主義と仕事上の取り決めについて

こうした道徳的立場はかなり穏当に見えるかもしれない。実際そのとおりだ。これは商売をする上での取り決めであって、道徳的理想や行動主義の目標ではない。行動主義には行動主義の居場所がある。公然と主張することにも居場所がある。今のような時期には、誰もが自分の道徳的立場と、それに基づいてどう行動するかをよく考えるべきだ。ビジネスは行動主義の理想的な乗り物ではないかもしれないが、行動主義は決定的に重要であり、欠かせない。自分の信念のために行動する人（通常は法律の許す範囲で）が、Honeycomb で報復を受けることはない。私たちは商売をしに来ている。それ自体に価値がある。たとえ明確なイデオロギー色を帯びていなくても。

結びに

職場は、背景も信念も大きく異なる人々が一つの場所に集まり、自分を超えた何かを成し遂げる、数少ない場のひとつだ。私たちはそれを貴重だと考えている。守る価値があると考えている。人に親切にすることと利益を追うことは矛盾しないと信じている。幸せで、健康で、十分に支えられ、ものづくりに没頭できる人は、より良い仕事をすると信じている。AI を厳格に使うことで、私たちのような会社は開発を加速し、顧客を満足させ、はるかに豊富な資源を持つ競合と正面から渡り合えると信じている。AI の使用は技能や職人芸を置き換えるのではなく、増幅すると信じている。大切にされ、尊重され、話を聞いてもらえる顧客は、より幸せで、より忠実だ。幸せな顧客はフィードバックをくれやすい。そして私たちは、より良い製品を作るためにそのフィードバックを必要としている。互いに利益のある関係と正のフィードバックループを築き、双方がより良くなることを信じている。こうしたことを、犠牲としてでも、中核となる使命を妨げるものとしてでもなく、その使命に奉仕するためにやっている。