요즘 AI가 스스로 판단하고 업무를 수행하는 에이전틱 AI로 진화하고 현실 세계에서 활동하는 단계로 나아가고 있다더라고요. 저도 뉴스로 봤는데 정말 신기해요. 이전엔 텍스트와 이미지 생성에 집중했다면 이제 로봇, 자동차, 가전 등 실제 하드웨어에 깃들어 물리적 법칙을 이해하고 자율적으로 과업을 수행하는 수준으로 도약했다고 하네요.
회사에서 AI 에이전트 도입 검토 중인데, 아직까지 생성형 AI는 개인 생산성 향상에 주로 기여했지만 에이전틱 AI는 조직 전체의 업무 프로세스를 혁신한다는 점이 차이라는 걸 깨달았어요. 근데 이게 정말 작동할지 좀 의심스럽긴 해요 ㅋㅋ
그런데 한편으로는 좀 불안한 부분도 있어요. 온디바이스 AI가 확산되고 있지만 여전히 많은 기기가 데이터를 수집하고 분석하고 있고, 사용자의 일거수일투족이 기록되는 상황에서 개인정보 보호가 기술적 완성도만큼이나 중요한 과제가 됐다고 해요. 혹시 보안 때문에 도입 안 한 회사 있으신가요?
저희 회사도 보안 때문에 도입을 미루고 있거든요. 특히 제조 현장에 도입하려니까 데이터 유출 리스크가 크다고 보더라고요. 에이전트 AI가 자율적으로 의사결정하면서 동시에 민감한 정보를 다루게 되니까 통제 자체가 어려워진다는 게 핵심 문제네요. 온디바이스 방식이 확산되더라도 결국 어느 순간엔 중앙 서버로 데이터가 올라갈 수밖에 없지 않나 싶어요.