AI 슬롭은 실제다. AI 구르메도 실제다

요약

저자는 AI가 작성에 관여한 소프트웨어를 모두 ‘AI 슬롭’이라고 부르는 것은 부정확하다고 주장합니다. 저자가 말하는 슬롭은 결과를 평가할 수 없는 사람이 모호한 요청을 AI에 보내고, 악의적인 입력, 보안, 개인정보, 신뢰성, 유지보수성, 사용자 경험을 충분히 검토하지 않은 채 결과를 배포하는 소프트웨어입니다. 이런 문제는 AI 이전에도 존재했지만, 생성 도구로 제작 비용이 거의 사라지면서 전례 없는 규모로 늘어날 수 있습니다. 저자는 반대편의 결과를 ‘AI 구르메’라고 부르며, 가치 있는 아이디어와 명확한 사양, 적절한 설계와 아키텍처, 충분한 반복 작업이 필요하다고 설명합니다. 사례로 든 octomon은 가정용 인터넷, 기내 Wi-Fi, Azure VM, Windows 노트북, VPN 환경에서 테스트됐고, 첫 변경 기록 이후 45번 출시됐습니다. 인간 전문가의 검토는 일부 대상만 인터넷 상태를 판단해야 한다는 점, 게이트웨이가 ICMP를 차단해도 장애가 아닐 수 있다는 점, VPN 전환 중 일시적인 패킷 손실을 구분해야 한다는 점을 찾아내는 데 중요했습니다. 저자는 개발자가 AI의 그럴듯하지만 잘못된 결과를 읽고 판단할 만큼 코드를 이해해야 한다고도 말합니다. 또한 AI는 좋은 제품 아이디어 자체를 제공할 수 없으며, octomon은 여러 터미널에 흩어진 네트워크 진단 정보를 한 화면에 모으려는 필요에서 출발했다고 설명합니다. 이 프로젝트는 오픈 소스이고 알고리즘과 저장 데이터를 공개하며 권한 상승 없이 실행됩니다. 글 자체도 AI가 초안을 작성한 뒤 저자가 몇 주 동안 수정했다고 밝힙니다.