ChatGPT가 연방 인력에 미치는 영향

연방 기관은 운영을 개선하고 구성원에게 더 나은 서비스를 제공하기 위해 지속적으로 혁신적이고 안전한 솔루션을 찾고 있습니다. 지난 10년간 주목을 받은 기술 중 하나는 인공지능이다.

최근 대규모 언어 모델(Large Language Model) 및 Transformer AI가 추진되면서 연방 인력은 AI의 잠재력과 AI가 기관 임무를 효과적으로 수행할 수 있는 방법에 매료되었습니다.

널리 사용되는 LLM 도구 중 하나는 ChatGPT입니다. 국회의원들은 이미 ChatGPT를 사용하여 연설문을 작성하고 있으며 기관에서는 직원의 의사소통 지원, 워크플로 간소화, 직원의 정보 액세스 증가 등 기존 프로세스 내에서 기술을 구현함으로써 얻을 수 있는 수많은 다른 이점을 조사하기 시작했습니다.

이러한 기대감 속에서 ChatGPT 및 기타 LLM 도구가 일자리를 없애고 부정확한 정보를 제공하며 편견을 영속시킬 수 있다는 우려가 있습니다. 일부 우려는 근거가 없을 수도 있지만 연방 기관은 ChatGPT의 전면적인 구현이 인력 및 기관 이해관계자에게 미칠 수 있는 모든 잠재적 영향을 고려하는 것이 중요합니다.

그렇게 하려면 ChatGPT가 연방 인력에게 서비스를 제공하는 데 도움이 될 수 있는 부분과 그렇지 않은 부분에 대한 철저한 이해가 필요합니다.

전통적으로 AI는 서비스 데스크 지원, 의사 결정 간소화, 반복 작업 자동화 등을 통해 정부 직원의 내부 프로세스를 지원합니다. ChatGPT는 이러한 전통적인 역할을 수행할 수 있지만 대규모 언어 모델은 새로운 차원의 기능도 지원합니다.

이 기술은 연방 직원이 언제든지 액세스할 수 있는 온라인 과정, 자습서 및 기타 교육 리소스를 만들어 연방 직원에게 향상된 교육 및 전문성 개발 기회를 제공할 수 있습니다. 또는 정책, 절차, 규정, 업무 관련 데이터 및 통계에 대한 정보에 대한 직원의 접근성을 향상시킬 수 있습니다.

ChatGPT는 또한 잘 문서화된 정부 차원의 문제를 해결하는 데 도움을 줄 수 있는 잠재력을 가지고 있습니다. 예를 들어 직원이 처음부터 작성하는 대신 편집할 수 있는 정부 계약 초안을 작성하여 복잡한 연방 인수 프로세스를 간소화하는 데 도움이 될 수 있습니다. 국방부는 워크플로를 가속화하기 위해 이미 "AcqBot"으로 알려진 유사한 AI 기반 계약서 작성 솔루션을 만드는 과정에 있기 때문에 기관에서 잠재적인 응용 프로그램이 손실되지 않습니다.

또한 ChatGPT의 애플리케이션은 특정 기관의 요구 사항에 맞게 쉽게 맞춤화될 수 있습니다. IRS는 ChatGPT를 사용하여 수신 세금 양식을 분류하고 처리를 위해 적절한 부서로 전달하는 프로세스를 자동화할 수 있으며, DoD는 이를 사용하여 장비 유지 관리에 대한 보고서를 자동으로 생성하여 수리 일정을 간소화할 수 있습니다.

ChatGPT의 적용은 상상력, 창의성 및 원하는 영향력 수준에 의해서만 제한됩니다. 그러나 그 효과가 모두 긍정적인 것은 아니며 ChatGPT에 너무 많이 의존하면 적절한 가드레일 없이 조직에 상당한 위험을 초래할 수 있습니다. 예를 들어 인증된 윤리적 해킹 커뮤니티 회원은 ChatGPT와 같은 수많은 LLM 및 Transformer 기반 도구를 탈옥하고 이를 속여 답변에 편견을 삽입하고, 윤리적 정책을 위반하고, 분산 서비스 거부 공격을 위한 코드를 생성하는 등의 방법을 입증했습니다.

ChatGPT는 때때로 응답을 제공하거나 존재하지 않는 소스에서 정보를 추출하여 신속한 답변을 제공할 수도 있습니다. 이는 ChatGPT가 사용 가능한 정보를 기반으로 확률 기반 추측을 사용하여 응답을 생성하기 때문에 발생합니다.

따라서 가져온 원본 데이터는 정확할 수 있지만 고유한 프롬프트에 응답하기 위해 데이터를 압축하고 조정하면 정확한 설명 대신 가장 그럴듯한 설명이 생성되어 때로는 완전히 구성된 소스가 생성될 수 있습니다. 오류가 발생하면 실수를 인정하지 않고 응답을 재확인합니다. 이로 인해 혜택에 대한 정보를 얻기 위해 도구를 사용하는 연방 직원이나 도구를 사용하여 작성된 계약서의 형식 오류로 인해 잠재적인 오해가 발생할 수 있습니다.