지난 주 뉴욕 변호사가 OpenAI의 ChatGPT 소프트웨어에 환각을 일으킨 존재하지 않는 법원 사건을 인용한 것을 인정한 후, 텍사스 판사는 법원의 변호사에게 그들이 법률 문서를 준비하기 위해 인공 지능을 사용하지 않았음을 증명하도록 지시했습니다. 그렇다면 출력이 사람에 의해 확인되었습니다.

"현재 상태의 이러한 플랫폼은 환각과 편견에 취약합니다."라고 읽습니다. 공책 텍사스 북부 지역의 Brantley Starr 판사로부터. “환각에 대해 그들은 물건을 지어냅니다. 심지어 인용문과 인용문도요.

“또 다른 문제는 신뢰성 또는 편견입니다. 변호사가 법을 충실히 지키고 고객을 대변하기 위해 개인의 편견, 편견, 신념을 버리고 선서를 한다면 생성 인공 지능은 그러한 선서를 할 필요가 없었던 인간이 고안한 프로그래밍의 산물입니다.

“따라서 이러한 시스템은 고객, 법의 지배 또는 미국의 법률 및 헌법(또는 위에서 언급한 바와 같이 진실)에 충성하지 않습니다. 의무감, 명예 또는 정의에 얽매이지 않는 이러한 프로그램은 신념보다는 컴퓨터 코드에 따라, 원칙보다는 프로그래밍에 따라 작동합니다. 플랫폼이 법률 브리핑에 필요한 정확성과 신뢰성을 가지고 있다고 믿는 당사자는 누구나 휴가를 내고 그 이유를 설명할 수 있습니다.”

판사의 메모는 계속해서 그의 법원이 이러한 조건을 읽고 이해했음을 증명하는 필수 인증서를 제출하지 않는 변호사의 모든 서류를 파기할 것이라고 설명합니다.

스타 판사는 논평할 수 없었다.

드문 문제가 아닙니다.

메모가 게시되었습니다. 5 월 화요일 30. 그것은 뉴욕 판사의 26월 XNUMX일 저주에 이은 것입니다. 원인 표시 명령 [PDF] 콜롬비아 항공사인 Avianca SA를 고소한 원고의 변호사에게 "존재하지 않는 사례 인용"에 대해 제재를 가해서는 안 되는 이유를 설명하도록 합니다.

원고의 변호인은 진술서에서 "존재하지 않는 사법 의견의 사본을 법원에 제출"했으며 "거짓 및 사기성 공증을 사용"했다고 인정했습니다.

기본적으로 변호사는 ChatGPT를 사용하여 이전 사례를 조회하고 챗봇이 이러한 사례를 발명했으며 변호사는 마치 실제인 것처럼 인용했습니다. 이에 변호인단은 변호인단을 불러 잘못을 인정했다.

상상할 수 있듯이 Kevin Castel 판사는 감명받지 않았습니다. 그는 원고 측 변호인에게 분노를 표출했다. Mata 대 Avianca, Inc. (1:22-cv-01461), 다음을 인용하여 개인 상해 청구를 기각하려는 방어 노력에 반대했습니다. Varghese 대 South China Airlines Co Ltd, 샤분 대 이집트항공및 Petersen v. 이란 항공, 다른 기계 상상 법원 사건 중에서.

등록 원고의 로펌인 Levidow, Levidow 및 Oberman에 논평을 요청했지만 우리의 전화는 회신되지 않았습니다.

우리는 왔어요 이전에 작성 ChatGPT가 살아있는 사람들을 위한 부고를 발명하고, 존재하지 않는 신문 부고에 대한 URL을 만드는 데까지 가는 것에 대해, 텍스트 생성 봇이 법정 소송을 구성하는 것은 놀라운 일이 아닙니다. OpenAI는 시스템이 "때때로 잘못된 정보를 생성할 수 있다"고 경고합니다. 모델이 자신 있게 잘못된 정보를 내놓을 준비가 되어 있다는 점을 감안하면 경미해 보입니다.

그 안에 선서 진술서 [PDF], 문제를 일으킨 변호사는 "여기에서 수행된 법적 연구를 보완하기 위해 생성 인공 지능을 활용한 것을 크게 후회하며 진위 여부에 대한 절대적인 검증 없이는 앞으로 절대 그렇게 하지 않을 것"이라고 말했습니다.

뉴욕 사건은 대중의 관심을 끌기 위한 최초의 AI 기반 소송 실화로 보이지만, 주장 other 가짜 사건 인용 발생했다.

Silicon Valley Law Group의 주주이자 미국 변호사 협회 회장인 Stephen Wu 인공 지능 및 로봇 국립 연구소, 말 등록 그는 뉴욕 사례를 넘어서는 AI 조립 사례를 알지 못하지만 다른 사례가 있을 것으로 예상합니다.

규칙은 규칙이다

변호사가 더 잘 알아야 하는지 또는 생성 AI의 참신함이 어떻게든 상황을 완화할 수 있는지에 대한 질문에 Wu는 분명했습니다.

"내 책에는 변명의 여지가 없습니다."라고 Wu는 말했습니다. "전문적인 행동 규칙이 있으며 법률 문제에 대한 책임을 위임하려는 경우 문제를 위임하는 사람들을 감독할 의무가 있다고 말합니다."

Wu는 이러한 규칙이 준법률가나 조수에게 적용되도록 의도되었지만 생성 AI에도 적용되어야 한다고 말했습니다.

내 책에는 변명의 여지가 없다

“생성적 인공지능 시대에 인공지능에게 무언가를 위임하려면 그 인공지능을 감독하고 그 결과를 확인하여 변호사에게 요구되는 역량 기준을 충족하는지 확인해야 한다고 읽었습니다. 만나자”고 설명했다.

Wu는 법에 AI 도구의 역할이 있지만 그 역할은 사람에게 종속되어야 한다고 말했습니다. 그는 제너레이티브 AI가 계약 생성과 같은 작업에 더 유용할 것으로 기대한다고 말했습니다. 법원 서류에서 그는 "모든 'i'에 점을 찍고 모든 't'에 십자 표시를 해야 하기 때문에 판돈이 다소 높다"고 말했습니다.

그는 또한 텍사스 판사의 인증 요구 사항이 보다 광범위하게 채택될 수 있다고 믿습니다.

Wu는 "생성 AI에만 의존하지 않는다는 것을 인증하는 판사의 상설 명령이 특정 법원에서 현지 규칙이 될 수 있습니다."라고 말했습니다.

“그리고 제가 보기에는 연방 규칙 자문 위원회와 이에 상응하는 주 당국이 절차 규칙을 변경하기를 원할 수 있습니다. 예를 들어, 생성적 AI를 사용하지 않음을 인증하거나 적어도 실제 소스에 대해 확인하는 텍사스 판사의 상시 명령 개념은 연방 민사 소송법 11(b)에 적합할 수 있습니다.”

미국변호사협회는 지난 XNUMX월 중간 회의에서 다음을 채택했다. 해상도 [PDF] 조직이 AI 시스템을 개발, 설계 및 배포하여 사람들이 해당 모델을 감독하고, 개인과 조직이 신경망 등으로 인한 피해에 대해 책임을 지며, 이러한 시스템의 개발자가 이러한 모델을 지적 재산을 존중하면서 투명하고 감사할 수 있습니다. 행운을 빌어요.

Wu는 기술 변화가 법에 어떻게 영향을 미치는지 설명할 필요성이 약 XNUMX년 전 ABA의 20/20 윤리 프로젝트. “무엇보다도 능력에 대한 변호사의 의무가 어떻게 기술을 이해하는 능력을 필요로 하는지, 그것이 법률 업무와 어떻게 관련되고 법률 업무를 위해 기술을 사용하는지에 대해 이야기했습니다.”라고 그는 말했습니다.

Wu는 법률에서 생성 AI의 역할에 대한 추가 논의를 기대합니다. “ABA 모델 규칙에 대한 변경 사항을 제시하기 위해 약간의 위원회 작업이 필요할 것으로 예상합니다.”라고 그는 말했습니다. ®

• SEO 기반 콘텐츠 및 PR 배포. 오늘 증폭하십시오.
• PlatoAiStream. Web3 데이터 인텔리전스. 지식 증폭. 여기에서 액세스하십시오.
• 미래 만들기 w Adryenn Ashley. 여기에서 액세스하십시오.
• PREIPO®로 PRE-IPO 회사의 주식을 사고 팔 수 있습니다. 여기에서 액세스하십시오.
• 출처: https://go.theregister.com/feed/www.theregister.com/2023/05/31/texas_ai_law_court/