Field note
AI Does Not Just Misidentify People. It Synthesizes Them.
AIは人を間違えるだけではない。別人として合成する
What same-name search errors reveal about the fragility of human data infrastructure.
同姓同名検索が示す、人間データインフラの危うさ
When AI searches for a person, the problem is not only a wrong answer.
AIが人名を検索するとき、問題は単なる誤答では終わらない。
People with the same name. Companies in similar industries. Images that appear beside each other in search results. Past job titles. Social profiles. Fragments from earlier conversations. Company names, roles, industry keywords.
When these fragments are placed near each other, AI may connect them as information about the same person.
これらが近くに置かれたとき、AIはそれらを「同じ人の情報」として接続してしまうことがある。
One person's profile may merge with another's. An executive record from one company may attach to someone else's public image. Industry knowledge from a conversation may be written as if it were the person's own career. And AI may narrate the result in calm, plausible prose.
This is not only hallucination. It is mislinking inside human data infrastructure.
これは単なるハルシネーションではない。人間データインフラにおける、人物の誤接続である。
People do not exist as search fragments. Yet inside sales databases, recruiting databases, CRMs, and enrichment services, people are handled as bundles of fragments: name, face, company, title, email, social presence, past employers, industry, touchpoints, inferred interest, contactability.
When those fragments are bound together, the person becomes not a self, but usable person data.
それらが束ねられたとき、人は「本人」ではなく、「利用可能な人物データ」になる。
AI adds another movement. The data is explained. Summarized. Given meaning. Spoken as biography. Rendered as personhood.
AIが加わると、そのデータは説明される。要約される。意味づけられる。経歴として語られる。人物像として生成される。
The danger is not only that AI errs. The danger is that AI generates a person who was never there.
危ういのは、AIが間違えることだけではない。存在しない人物像を生成してしまうことである。
In search results, a person may become someone else. In a sales database, a person becomes a contactable asset. In recruiting infrastructure, a candidate. In a CRM, a contact. In AI prose, a plausible story.
This conversion usually happens where the person cannot see it.
この変換は、ほとんどの場合、本人の見えないところで起きる。
The problem of human data infrastructure is not only that fragments are collected. It is that collected fragments can be wrongly joined — and spoken as if they were one life.
人間データインフラの問題は、断片が集められることだけではない。集められた断片が誤ってつながれ、一つの人生であるかのように語られることにある。
AI may appear to be researching a person. Sometimes it is generating one.
AIは人を調べているように見える。しかし時に、AIは人を生成してしまう。
Observing that difference will matter.
この違いを観測することが、これから重要になる。