PPOMNAE
← 전체 태그
#社会問題
이 태그가 달린 작품 2개
제품💾 설치형🌐 서비스형
SourceINDEX Memory Vault(IMV)
제목: 클로드가 자꾸 까먹어서, 기억을 내 컴퓨터에 저장하는 볼트를 만들었습니다 (측정 결과 포함) 본문: Claude Desktop 쓰다 보면 다들 겪는 문제 — 대화 하나 끝나면 다 까먹습니다. 프로젝트 맥락, 우리 회사 정보, 지난주에 정한 규칙. 매번 다시 설명하죠. 그래서 만들었습니다. INDEX Memory Vault(IMV) — Claude에 붙는 로컬 MCP 메모리 볼트입니다. 핵심 세 가지: 데이터는 내 컴퓨터에만 있습니다. 클라우드 없음, 계정 없음, 서버 전송 없음. SQLite 파일 하나가 전부라 통째로 백업·삭제·이동이 됩니다. 기억에 검증 상태가 있습니다. 저장된 기억은 승인(verified)/보류/차단 상태를 가져서, AI가 아무 기억이나 긁어다 쓰는 게 아니라 사람이 승인한 것만 신뢰하게 만들 수 있습니다. 효과를 측정하고 자료를 전부 공개했습니다. 160세션 A/B 벤치마크 결과 — 같은 모델·같은 질문에서 볼트 없이 정답률 23.3%, 볼트 연결 시 96.7%. 환각은 양쪽 다 0건이었습니다(볼트에 없으면 지어내는 대신 모른다고 합니다). 자체 측정이라 못 믿으실 수 있어서, 원자료·채점 규칙·정답표를 전부 공개했습니다. 직접 재채점하실 수 있습니다. → [벤치마크 결과 보고서](홈페이지 게시 URL) 설치: Claude Desktop이면 .mcpb 파일 더블클릭으로 끝납니다. → [GitHub 릴리스 v0.2.3](릴리스 URL) 오픈소스(AGPL-3.0)입니다. 써보시고 막히는 부분, 이상한 부분은 GitHub Issues로 남겨주세요 — 설치하다 막힌 화면 스크린샷 환영합니다. 그게 저한테는 제일 값진 피드백입니다. 인천에서 AI 제어 구조 만드는 2인 개발 법인입니다. 기억은 저장이 아니라 회수와 절제의 문제라고 믿고 만들었습니다.
7162
jong kim2026년 7월 7일
#ai정책#보안#사회문제
기획
에이전트의 거버넌스의 중요성
에이전트의 기억이 새거나 오염되면 행동이 오염됩니다. 에이전트는 기억을 근거로 메일을 보내고 결제하고 파일을 만집니다. 기억 저장소는 이제 데이터베이스가 아니라 행동의 근거 원장이고, 그래서 오염된 기억 주입(memory poisoning)이 에이전트 시대의 주력 공격 벡터가 될 확률을 저는 80% 이상으로 봅니다. 개인정보보호가 "생명"이라는 표현이 과장이 아닌 이유 홍수속의 에이전트들은 개인정보보호에 중점을 두지 않는다면 반드시 사고가 날것입니다. 거버넌스 자체가 부재합니다. 이 거버넌스의 프로토콜을 만들기 위해 개발자들이 같이 연구하고 이 사고를 공유해야합니다.
572
jong kim2026년 7월 6일
#ai정책#보안#사회문제