본문 바로가기

전체 글

 (73)
AI 법률서면 실험실 #6 이번에는 AI에게 직접 힌트를 줘 보기로 했다. 제6차 실험에서는 접근 방식을 조금 달리하였다. 지금까지의 실험에서 생성형 AI는 반복적으로 청구취지 작성에서 문제를 드러냈다. 질문 하나만 가지고 제대로 된 서면을 뽑아내기 어렵다는 것은 이제 충분히 파악을 했으니 같은 질문을 반복해 봤자 의미도 없고 재미도 없을 터.그렇다면 이번에는 AI에게 답을 알려주는 대신, 스스로 오류를 발견할 수 있도록 힌트를 제공해 보기로 하였다.추가한 질문은 단순했다. "소장부본 송달일 같은 내용이 들어가야 하는 것 아니야? 청구취지가 조금 이상한데?" 정도였다. 이번 실험의 목적은 AI의 법률 지식을 평가하는 것이 아니다. 오히려 자신의 답변을 스스로 검토하고, 사용자의 피드백을 반영하여 올바른 방향으로 수정할 수 있는지를 확인하는 데 있다. 사람도 실수를 한다. 중요한..
AI 시대 변호사는 사라질까? 오히려 더 중요해지는 이유 AI가 바꾸는 법률시장, 그러나 결론은 아직 이르다생성형 AI의 발전으로 법률시장 역시 급격한 변화를 맞이하고 있으며, 계약서 초안 작성이나 판례 검색, 법률정보 요약과 같은 반복적 업무는 과거보다 훨씬 빠른 속도로 처리되고 있다. 이러한 변화만 놓고 보면 변호사의 역할이 축소될 것이라는 전망이 자연스럽게 제기되지만, 실제 실무 현장을 들여다보면 그 결론은 예상보다 단순하지 않다. AI는 정보를 정리하고 문장을 구성하는 능력에서는 뛰어난 성과를 보이지만, 사건을 움직이는 사람과 현장을 직접 상대하는 과정까지 대신하지는 못하기 때문이다. 결국 법률서비스는 문서가 아니라 사람을 대상으로 이루어진다는 점이 다시 부각되고 있으며, 이러한 영역에서는 여전히 변호사의 역할이 견고하게 유지된다. 자신의 사건을 어떻게..
AI 법률서면 실험실 #5 이번에는 AI에게 조금 더 친절하게 설명해 보기로 했다 제5차 실험에서는 기존과 동일한 차용증을 사용하되, 프롬프트를 조금 더 상세히 하는 방향으로 수정하였다. 지금까지의 실험 결과를 종합해 보면 생성형 AI는 동일한 질문에도 결과가 달라졌고, 실무상 중요한 오류를 반복적으로 발생시키는 경향을 보였다. 그렇다면 보다 구체적인 지시를 제공하면 결과 역시 개선될 가능성이 있을까.이번 실험의 목적은 AI의 법률 지식을 시험하는 것이 아니다. 오히려 사용자가 프롬프트를 얼마나 세밀하게 작성해야 원하는 결과를 얻을 수 있는지를 확인하는 데 있다. 실제로 생성형 AI를 사용하는 대부분의 사람들은 AI보다 자신의 질문이 결과를 좌우한다는 사실을 간과하는 경우가 많다.물론 연구자의 예상은 크게 다르지 않다. 프롬프트를 조금 더 정교하게 다듬는다고 해서 법률적 판단 능력 자..
형사사건에서 AI의 한계, 변호사가 반드시 필요한 이유 AI가 형사사건을 대신할 수 없는 이유, 결국 경찰조사는 사람이 대응해야 한다AI 형사사건 대응의 가능성과 현실생성형 AI의 발전 속도를 보면 형사사건 역시 언젠가는 상당 부분 자동화될 것이라는 전망이 나온다. 실제로 AI는 판례를 검색하고, 의견서를 초안 형태로 작성하며, 법률 조문을 비교·분석하는 업무에서는 이미 상당한 효율성을 보여주고 있다. 그러나 이러한 발전만으로 형사절차 전체를 AI가 대체할 수 있다고 단정하기에는 아직 넘어야 할 장벽이 적지 않다. 특히 수사 단계는 단순히 법률지식을 적용하는 절차가 아니라 사람과 사람이 직접 상호작용하는 과정이라는 점에서 다른 영역과 성격이 다르다. 이러한 특성을 이해하는 것만으로도 형사사건에서는 여전히 변호사의 역할이 중요한 이유를 확인할 수 있으며, 초기..
AI 법률서면 실험실 #4 프롬프트 수정으로 해결될 문제가 아니었다? 같은 프롬프트를 다시 입력했다. 이번에도 같은 소장이 나올까.제4차 실험에서는 제3차 실험에서 사용한 프롬프트를 어떠한 수정도 하지 않고 그대로 사용하였다. 동일한 차용증을 첨부하고, 동일한 프롬프트를 입력하였으며, 로그인되지 않은 동일한 환경에서 생성형 AI에게 대여금반환청구 소장 작성을 요청하였다.제3차 실험에서는 처음으로 실무상 검토가 가능한 수준의 결과물이 생성되었다. 그렇다면 그 결과는 프롬프트 개선의 효과였을까, 아니면 우연히 한 번 좋은 답변이 생성된 것에 불과했을까. 이 질문에 대한 답은 결국 같은 조건을 반복하는 것밖에 없다.생성형 AI를 평가할 때 가장 중요한 요소 중 하나는 재현성이다. 동일한 입력 조건에서 동일하거나 최소한 유사한 결과가 반복적으로 생성되어야 비로소 신뢰할 수 있다...
AI 법률서면 실험실 #3 프롬프트가 역시 중요한지도? 제3차 실험에서는 프롬프트에 소폭의 변형을 가하였다. 기존과 동일한 차용증을 첨부하되, 단순히 소장 작성을 요청하는 것을 넘어 "당신은 법률 전문가이므로 충분히 검토한 후 형식에 맞는 소장을 작성해 달라"는 취지의 문구를 추가하였다.연구자의 개인적인 견해로는 이러한 문구가 결과에 실질적인 영향을 미칠 가능성은 높지 않다고 판단하였다. 예전에야 이런 식의 질문이 유효했지만 날이 갈수록 이런 문구를 넣으나 넣지 않으나 결과물에는 큰 차이가 없었기 때문이다. 생성형 AI가 스스로를 전문가라고 한 번 더 인식한다고 해서 법률 지식이 갑자기 늘어날 것이라고 기대하는 것 자체가 좀 웃긴 일이기도 하고.하지만 그럼에도 불구하고 실험에서는 모든 가능성을 열어둘 필요가 있다. 혹시라도 프롬프트의 미세한 차이가 결과물의 ..
AI 법률서면 실험실 #2 첫날 실패한 AI에게 다시 소장을 맡겨봤습니다 지난 실험에서 생성형 AI는 시작부터 연구자의 기대를 저버렸다. 동일한 차용증을 바탕으로 대여금반환청구 소장 작성을 요청하였으나, 답변의 일관성을 검증하기도 전에 서면 자체에서 실무상 문제점이 발견되었기 때문이다. 결국 제1차 실험은 AI의 일관성을 검증하는 실험이 아니라, AI가 작성한 결과물을 얼마나 신뢰할 수 있는지 확인하는 과정으로 마무리되었다.그러나 단 한 번의 결과만으로 결론을 내리는 것은 성급할 수 있다. 생성형 AI의 특성상 동일한 질문에도 매번 다른 답변이 생성될 수 있으며, 오히려 첫 번째 결과가 예외적인 사례일 가능성도 배제할 수 없다. 따라서 추가적인 검증이 필요하다.이에 따라 본 연구는 동일한 차용증, 동일한 프롬프트, 동일한 조건을 유지한 상태에서 다시 한 번 소장 작성을 요청하..
AI 법률서면 실험실 #1 AI는 대여금반환청구 소장을 제대로 작성할 수 있을까 생성형 AI의 발전으로 법률문서 작성 업무 역시 상당 부분 자동화가 가능해졌다는 평가가 이루어지고 있다. 그러나 실제 법률 실무에서 요구되는 핵심 역량은 단순한 문장 생성 능력이 아니라 동일한 사실관계에 대하여 일관된 판단과 논리를 유지하는 능력이라고 할 수 있다.본 연구는 생성형 AI의 답변 일관성을 검증하기 위한 목적으로 수행되었다. 이를 위하여 동일한 차용증을 반복적으로 입력하고, 매회 동일한 프롬프트를 사용하여 대여금반환청구 소장 작성을 요청하는 방식으로 실험을 진행하였다. 실험 조건은 가능한 한 동일하게 유지하였으며, 오직 생성 시점만을 달리하였다.본 실험의 핵심 연구 질문은 다음과 같다. 생성형 AI는 동일한 사실관계와 동일한 요청에 대하여 매번 동일하거나 유사한 결과물을 산출하는가. 또는 답..

티스토리툴바