Safety
만들 수 있다는 것과
만들어도 된다는 것은 다릅니다
AI는 요청하면 거의 무엇이든 만들어 줍니다. 문제는 만들어지느냐가 아니라 책임질 수 있느냐입니다. 일반적인 코딩 안내서에는 나오지 않지만 의사에게는 반드시 필요한 여섯 가지를 정리했습니다.
판단이 서지 않을 때의 기준
만들려는 도구가 환자를 식별하거나, 정보를 어딘가에 보관하거나, 임상 판단에 영향을 준다면 멈추고 확인하세요. 이 세 가지 중 어느 것에도 해당하지 않는다면 대부분 안전한 범위입니다.
01개인정보보호법, 의료법상 정보 누설 금지
환자 정보를 AI에 입력하지 않습니다
프롬프트에 적는 순간 외부로 전송됩니다.
AI 도구의 대화창은 내 컴퓨터가 아니라 외부 서버로 연결됩니다. 이름과 등록번호만이 아니라, 조합하면 특정 개인을 알아볼 수 있는 정보 전부가 대상입니다. 드문 질환에 특정 날짜와 연령대가 붙으면 이름이 없어도 사람이 특정됩니다. 코드를 짜달라고 하면서 실제 데이터를 예시로 붙여넣는 실수가 가장 흔합니다.
이건 괜찮습니다
- ✓가상의 예시 데이터로 요청하기 — 홍길동, 1900-01-01
- ✓숫자 범위나 계산 규칙만 설명하기
- ✓의원의 공개 정보(진료시간, 주소, 전화번호) 사용하기
- ✓실제 데이터는 완성된 도구에 본인이 직접 입력하기
이건 위험합니다
- ✕엑셀 환자 목록을 붙여넣고 정리해달라고 요청하기
- ✕실제 차트 내용을 예시로 제시하기
- ✕검사 결과지를 사진으로 올려 해석을 맡기기
- ✕환자 문의 내용을 그대로 붙여넣고 답변을 작성하게 하기
02개인정보보호법상 안전조치 의무
만든 도구에 환자 정보를 저장하지 않습니다
보관하는 순간 책임의 성격이 달라집니다.
개인정보를 보관하기 시작하면 암호화, 접근 권한 관리, 보관 기간 설정, 유출 시 신고 의무가 따라옵니다. 이것은 코드를 잘 쓰는 문제가 아니라 조직이 감당하는 문제입니다. 입문 단계에서 만드는 도구는 계산만 하고 아무것도 남기지 않는 형태여야 합니다.
이건 괜찮습니다
- ✓입력값을 브라우저 안에서만 계산하고 새로고침하면 사라지게 만들기
- ✓결과를 저장하지 않고 화면에 보여주거나 인쇄만 하기
- ✓요청할 때 데이터를 서버에 저장하지 말라고 명시하기
이건 위험합니다
- ✕입력 내용이 데이터베이스에 쌓이는 문진표
- ✕환자가 이름과 연락처를 남기는 예약 기능
- ✕결과를 이메일로 보내는 기능 — 전송 경로에 정보가 남습니다
03의료기기법, 식약처 의료용 소프트웨어 관련 지침
임상 판단에 개입하면 규제 대상이 될 수 있습니다
계산기와 진단 보조는 다릅니다.
질병을 진단하거나 치료 방법을 제시하는 소프트웨어는 의료기기로 분류될 수 있습니다. 분류되면 허가 절차가 필요하고, 원내에서만 쓴다고 해서 자동으로 예외가 되지는 않습니다. 반면 이미 공인된 공식을 그대로 계산하는 도구는 대체로 여기에 해당하지 않습니다. 경계가 모호하다고 느껴진다면 그 자체가 확인이 필요하다는 신호입니다.
이건 괜찮습니다
- ✓이미 공표된 공식을 그대로 계산하는 도구 — 용량 환산, BMI
- ✓판단 없이 정보를 정리해 보여주는 체크리스트
- ✓행정 업무를 돕는 도구 — 일정, 재고, 손익
이건 위험합니다
- ✕증상을 입력하면 가능한 질환을 제시하는 도구
- ✕영상이나 수치를 분석해 이상 여부를 알려주는 도구
- ✕치료 방침을 추천하는 도구
04의료법상 의료광고 규정 및 사전심의 제도
환자에게 공개하는 페이지는 의료광고일 수 있습니다
안내문과 광고의 경계는 생각보다 가깝습니다.
의료기관이 환자를 대상으로 게시하는 내용은 의료광고에 해당할 수 있고, 매체와 내용에 따라 사전심의 대상이 되기도 합니다. 특히 AI는 빈칸을 그럴듯하게 채우는 성질이 있어서, 요청하지 않은 치료 후기나 전문성을 강조하는 문구를 스스로 만들어 넣습니다. 이 경우 본인이 쓰지 않은 문장 때문에 문제가 생길 수 있습니다.
이건 괜찮습니다
- ✓진료시간, 위치, 연락처 같은 사실 정보
- ✓시술 전후 주의사항 등 환자 안내 목적의 내용
- ✓공개 전에 모든 문구를 직접 한 줄씩 확인하기
이건 위험합니다
- ✕AI가 지어낸 치료 후기나 환자 사례
- ✕최고, 유일, 완치 같은 단정적 표현
- ✕다른 의료기관과 비교하는 문구
- ✕치료 효과를 보장하는 듯한 서술
05결과물에 대한 책임은 제작자에게 있습니다
AI가 만든 결과는 본인이 검증합니다
AI는 자신 있게 틀립니다.
문장이 자연스럽고 코드가 그럴듯하게 돌아가기 때문에 틀린 것을 알아채기 어렵습니다. 특히 계산 로직은 겉보기에 정상 동작하면서 값만 틀리는 경우가 있어 위험합니다. 결과물에 대한 책임은 도구를 만든 사람에게 있고, 그 사람은 본인입니다.
이건 괜찮습니다
- ✓아는 값을 넣어 손으로 계산한 결과와 대조하기
- ✓경계값 확인하기 — 0, 음수, 아주 큰 값
- ✓의학 정보는 원문 지침과 직접 대조하기
- ✓직원에게 먼저 써보게 하고 이상한 점을 듣기
이건 위험합니다
- ✕한 번 돌아가는 것을 보고 바로 사용하기
- ✕AI가 인용한 참고문헌을 확인 없이 믿기
- ✕복용량이나 단위 환산을 검산 없이 넘어가기
06저작권법, 초상권
이미지와 글꼴에도 권리가 있습니다
AI가 가져온 것이 자유롭게 쓸 수 있는 것은 아닙니다.
AI가 제안한 이미지나 글꼴, 코드 조각에는 사용 조건이 붙어 있을 수 있습니다. 개인적으로 쓸 때는 문제가 없다가 의원 홍보에 쓰는 순간 상업적 이용이 되어 조건이 달라지기도 합니다.
이건 괜찮습니다
- ✓상업적 이용이 허용된 무료 이미지 사용하기
- ✓직접 촬영한 사진 사용하기
- ✓상업적 사용이 명시적으로 허용된 글꼴 쓰기
이건 위험합니다
- ✕검색해서 나온 이미지를 그대로 가져다 쓰기
- ✕사용 조건을 확인하지 않은 글꼴 적용하기
- ✕환자나 직원이 식별되는 사진을 동의 없이 올리기