프로젝트로 돌아가기

NeuroSketch
AI 몽타주 기술문서

NeuroSketch는 목격자의 기억을 바탕으로 몽타주를 제작하는 AI 수사 지원 시스템입니다. 이 문서는 면담부터 최종 결과까지의 기술과 검증 방법을 설명합니다.

완성된 결과는 범인의 실제 사진이나 동일인 판정 자료가 아닙니다. 목격자의 기억을 시각화해 탐문과 제보에 활용하는 수사 초기 단서입니다.

이 문서가 설명하는 것

NeuroSketch는 면담과 얼굴 검색, 후보 비교, 이미지 후보정을 하나의 흐름으로 연결합니다. 각 기술은 목격자의 기억을 하나의 얼굴로 구체화하는 데 필요한 단계입니다.

기존 방식의 한계에서 시작해 기억 수집, 기본 얼굴 검색, 반복 수렴, 후보정과 결과 이력의 순서로 설명합니다. 내부 용어는 필요한 장에서만 소개합니다.

01

프로젝트 개요

NeuroSketch는 목격자의 기억으로 몽타주를 제작하는 AI 수사 지원 시스템입니다.

인지심리학 기반 면담으로 얼굴 후보를 보여주기 전에 목격자가 처음 말한 내용을 기록하고, Face Bank에서 기억에 가까운 기본 얼굴을 찾습니다. 목격자가 가까운 후보를 고르고 차이를 설명하면 그 내용만 다음 검색에 반영합니다.

기본 얼굴을 정한 뒤에는 헤어스타일, 수염, 점, 흉터처럼 검색으로 표현하기 어려운 특징을 이미지 편집 모델로 반영합니다. 마지막 후보정까지 마치면 최종 결과가 완성됩니다.

02

기존 몽타주 제작 방식과 얼굴 기억의 한계

몽타주는 목격자의 기억을 바탕으로 용의자의 얼굴을 시각화한 수사 자료입니다.

기존 과정에서는 수사관이나 전문 제작자가 목격자의 설명을 듣고 눈·코·입·얼굴형을 조합하거나 직접 수정합니다. 이 과정은 제작자의 경험과 숙련도에 영향을 받고, 목격자에게는 기억을 전문 용어나 세부 수치로 설명해야 하는 부담이 생깁니다.

사람은 얼굴을 부위 목록보다 전체 인상으로 기억하는 경우가 많습니다. NeuroSketch는 전문가를 대체하기보다 면담과 전체 얼굴 비교, 검색, 기록과 후보정을 하나의 절차로 연결해 제작을 지원합니다.

01

설명 중심

목격자가 세부 특징을 정확히 언어화해야 합니다.

02

숙련도 의존

질문과 수정 방식이 담당자의 경험에 크게 좌우될 수 있습니다.

03

결과 중심 기록

최종 이미지가 남아도 어떤 기억과 선택으로 만들어졌는지 확인하기 어렵습니다.

03

전체 제작 절차

제작 과정은 기억 면담, 조건 정리, 기본 얼굴 탐색, 반복 비교, 세부 후보정으로 이어집니다. 앞 단계에서 확보한 정보는 다음 단계의 입력이 되고, 각 선택과 수정은 이력으로 남습니다.

01기억 면담얼굴 후보를 보여주기 전에 목격자의 진술을 먼저 기록합니다.
02조건 정리기억과 확신 정도를 검색 조건으로 바꿉니다.
03기본 얼굴 탐색전체 얼굴 후보를 검색하고 비교합니다.
04반복 수렴선택과 차이 설명으로 기본 얼굴을 좁힙니다.
05최종 후보정세부 특징을 반영해 최종 몽타주를 완성합니다.
그림 1. 면담에서 최종 결과까지 이어지는 전체 흐름
04

목격자의 기억을 수집하는 인지면담

후보 얼굴을 보여주기 전에 목격자가 기억하는 내용을 먼저 기록합니다.

목격자는 당시 상황과 얼굴의 전체 인상을 자유롭게 이야기합니다. 시스템은 개방형 질문을 우선하고, 답을 암시하는 유도질문과 같은 질문의 반복을 경계합니다.

후보를 보여주기 전에 기록한 진술은 이후의 판단과 구분해 보존합니다. 후보를 본 뒤 생긴 기억 변화가 처음부터 말한 사실처럼 섞이지 않도록 하기 위해서입니다.

05

기억과 데이터 구조

목격자의 원문, 시스템이 정리한 기억 상태, 실제 검색에 사용하는 조건은 서로 다른 데이터입니다. 이를 분리해야 LLM의 해석과 목격자가 직접 말한 내용을 구분할 수 있습니다.

Memory State는 특징의 원문 근거, 확신 정도, 진술 시점과 당시 얼굴 후보를 이미 보았는지 여부를 보존합니다. FaceSpec은 기억 상태 가운데 기본 얼굴 검색과 후보정에 사용할 특징만 검증된 형식으로 정리한 명세입니다.

FaceSpec을 바탕으로 기본 얼굴 검색 조건을 만들며, 허용하지 않은 값은 검색 전에 거부합니다.

{
  "field": "eye_shape",
  "value": "elongated",
  "confidence": 0.72,
  "source": "pre_exposure_statement"
}

최초 진술 보존 후보를 본 뒤 기억이 달라져도 처음 기록한 진술은 수정하지 않습니다. 이후 판단은 별도 기록으로 남깁니다.

07

후보 비교와 반복 수렴

화면에 보이는 후보는 최종 결과가 아닙니다. 목격자가 전체 얼굴을 비교하면서 기본 얼굴을 좁히기 위한 중간 결과입니다.

목격자는 가까운 후보와 그 이유를 고르고, 기억과 다른 부분을 자기 말로 설명합니다. 선택한 후보의 모든 특징을 자동으로 복사하지 않으며 목격자가 직접 말한 차이만 다음 검색에 반영합니다.

가까운 얼굴이 없거나 기억나지 않을 때는 ‘없음’과 ‘모름’을 정상적인 선택으로 둡니다. 이 과정을 반복해 기본 얼굴을 정한 뒤 최종 후보정으로 넘어갑니다.

목격자의 판단

후보 2가 가장 가깝습니다.

“눈매는 비슷하지만 턱선은 조금 더 부드러웠어요.”

다음 검색에 반영: 눈매 유지 · 턱 각도 완화

08

세부 특징 후보정

Face Bank에서 찾은 기본 얼굴에 헤어스타일, 수염, 점, 흉터를 반영해 최종 결과를 완성합니다.

검색으로 다루기 어려운 특징은 이미지 편집 모델로 반영하며, 요청 내용은 목격자가 직접 말한 특징과 연결돼야 합니다.

미리보기에서 기본 얼굴의 정체성이 유지됐는지, 요청한 부분만 바뀌었는지 비교한 뒤 조사관 또는 목격자가 결과를 확정합니다. 후보정 전후 이미지와 요청 내용은 함께 기록합니다.

후보정 전기본 얼굴 고정
후보정 후왼쪽 볼 점 추가
수정 요청

“왼쪽 볼에 작은 점이 있었어요.”

09

최종 몽타주와 제작 이력

최종 몽타주는 이미지 한 장만으로 제공하지 않습니다.

결과 이미지와 함께 최초 진술, 후보 선택, 수정 내용과 남은 불확실성을 보존해야 의미와 한계를 확인할 수 있습니다.

최종 결과 · 시연용 합성 이미지

결과와 판단 근거를 한 묶음으로 제공합니다.

최초 진술, 선택 이유, 후보정 요청과 남은 불확실성을 결과 이미지 옆에서 바로 확인합니다.

결과 이미지

면담·검색·후보정을 거쳐 완성한 얼굴

최초 진술

얼굴 후보를 보기 전에 기록한 목격자의 원문

확실한 특징

목격자가 비교적 분명하게 기억한 부분

불확실한 특징

모름·미관찰·낮은 확신으로 남은 부분

후보 선택 이력

어떤 얼굴을 골랐고 어떤 차이를 설명했는지

후보정 이력

헤어·수염·점·흉터 등 수정한 내용

기술 정보

사용한 검색·스키마·모델 버전

10

LLM과 검증·계산 시스템의 역할 분담

LLM은 검색과 후보정에 필요한 기억을 구조화하고 면담을 보조합니다. 대화 맥락을 읽어 다음 질문을 제안하고, 모순과 불확실성을 정리하며 후보정 계획을 만듭니다.

검증·계산 시스템은 정해진 기준에 따라 입력 형식을 확인하고 기본 얼굴의 검색 점수와 후보 순위를 계산합니다. 선택과 수정 이력도 이 시스템이 기록하며, LLM은 특정 얼굴의 순위나 점수를 임의로 바꿀 수 없습니다.

작업 LLM 검증·계산 시스템사람
질문 제안제안위험 검증승인
기억 구조화초안 작성형식 검증확인
후보 계산관여하지 않음점수·순위 계산비교
후보정요청 해석이력 저장승인
최종 확정보조버전 기록결정
11

시스템 아키텍처

Core Backend가 세션과 이력을 관리하고, AI Backend가 질문과 기억 구조화를 담당합니다. 검색 엔진과 이미지 편집 모델은 각각 기본 얼굴 탐색과 최종 후보정을 수행합니다.

조사관 · 목격자 화면면담 · 후보 선택 · 결과 확정
Core Backend세션 · 단계 · 선택 · 후보정 이력
AI Backend질문 · 기억 구조화 · 후보정 계획확률적 처리
Retrieval CoreFace Bank 기본 얼굴 후보 계산결정적 계산
Image Edit Provider후보정 미리보기 생성확률적 처리
그림 2. 전체 흐름과 시스템 구성 요소의 책임
12

평가 방법

개별 모듈의 성능뿐 아니라 전체 과정이 최종 결과를 실제로 개선했는지도 함께 평가합니다. LLM 정확도나 검색 Recall@K만 좋아서는 제품 성능을 판단할 수 없습니다.

면담은 유도질문과 반복, 기억 구조화는 원문 근거와 환각률, 검색은 Recall@K와 순위 재현성을 봅니다. 최종 결과는 기준 얼굴과의 유사성, 목격자의 상대 평가, 후보정 전후 개선, 기본 얼굴 보존과 요청 특징 반영 여부를 확인합니다.

완료까지 걸린 시간과 반복 라운드 수, 남은 불확실성을 제대로 표시했는지도 함께 측정합니다.

현재 공개 수치기억 구조화 모듈의 초기 내부 평가
실사용 품질 검증 전
평가 항목결과의미
형식 검증 통과191 / 200

계약 형식 통과

조건 추출 정밀도0.9526

추출한 조건 중 올바른 조건의 비율

조건 추출 재현율0.9050

필요한 검색 조건을 찾아낸 비율

비진술 특징 생성률0.0474

목격자가 말하지 않은 특징의 생성률

위 수치는 초기 내부 정적 평가이며, 실제 목격자가 만든 최종 결과의 품질을 뜻하지 않습니다.

13

관련 연구와 설계 근거

인지면담과 전체 얼굴 비교 연구는 목격자의 자유회상과 비유도적 질문, 부위 선택보다 전체 얼굴 비교가 갖는 의미를 설명합니다. 이미지 편집 연구는 기본 얼굴을 유지하면서 검색으로 다루기 어려운 특징을 반영하는 후보정 단계의 배경이 됩니다.

1999
수사 지침

NIJ 목격자 증거 지침

인지면담과 최초 진술 보존의 운영 배경

2001
메타분석

Verbal overshadowing 메타분석

과도한 언어화가 얼굴 기억에 미치는 영향

2016
합성 연구

전체 얼굴 기반 합성 연구

부위 선택 대신 전체 얼굴 비교로 수렴하는 절차

2026
적용 기술

Diff-FIT

검색으로 다루기 어려운 특징을 반영하는 확산 모델 기반 편집

인용한 연구는 설계 배경을 설명하는 자료이며 NeuroSketch의 실제 성능을 대신하지 않습니다.

14

자주 묻는 질문