chatcli: CLI และเซิร์ฟเวอร์ MCP สำหรับการทำงานของ LLM ที่สามารถตั้งโปรแกรมได้
chatcli ซึ่งพัฒนาโดย Diillson เป็นทางเข้าสำหรับคำสั่งและเซิร์ฟเวอร์ที่เชื่อมต่อผู้ใช้ LLMs และเครื่องมือภายนอกสำหรับงานอัตโนมัติที่มีโครงสร้าง เครื่องมือนี้ทำงานเป็น CLI แบบโต้ตอบหรือเป็นเซิร์ฟเวอร์ gRPC/MCP เพื่อจัดการคำขอไปยังผู้ให้บริการ LLM หลายราย จัดการบริบท และเปิดเผยตัวแทนเฉพาะสำหรับการเข้าถึงที่เก็บและสภาพแวดล้อม มันรวมถึงอาร์ติแฟกต์การปรับใช้สำหรับการจัดการคอนเทนเนอร์และการควบคุมโทเค็น นักพัฒนาและ SREs จะได้รับทางเข้าสำหรับ LLM ที่สามารถโปรแกรมได้ซึ่งเหมาะสำหรับการทำให้เป็นท้องถิ่น การวิเคราะห์โค้ด และการทำงานอัตโนมัติของข้อความ.
เกตเวย์ MCP ที่สร้างขึ้นจาก Go สำหรับการทำงานอัตโนมัติของนักพัฒนา
เครื่องมือนี้ถูกพัฒนาขึ้นใน Go ซึ่งทำให้ขนาดไฟล์ไบนารีเล็กและช่วยในการแจกจ่ายข้ามแพลตฟอร์มไปยัง Windows, macOS และ Linux มันทำหน้าที่เป็นเซิร์ฟเวอร์ Model Context Protocol ที่แมพการตอบสนองของโมเดลไปยังขั้นตอนที่สามารถดำเนินการได้ ดังนั้นผลลัพธ์จึงสามารถกระตุ้นการดำเนินการที่เขียนสคริปต์ในเชลล์หรือ CI pipeline โครงการนี้ได้รับอนุญาตเป็นซอฟต์แวร์ฟรีและตั้งเป้าหมายไปที่นักพัฒนาและทีม DevOps ที่ฝังงานที่ขับเคลื่อนด้วยโมเดลลงในระบบอัตโนมัติที่มีอยู่
ผลลัพธ์ที่สร้างขึ้นขึ้นอยู่กับการเลือกโมเดลและการเชื่อมต่อของเอเย่นต์
chatcli รองรับผู้ให้บริการ LLM หลายราย รวมถึง OpenAI, Anthropic และ Google AI ดังนั้นลักษณะของข้อความที่สร้างขึ้นจึงเปลี่ยนแปลงไปตามการเลือกผู้ให้บริการ เครื่องมือนี้เปิดเผยเครื่องมือที่อิงจากเอเย่นต์ที่สามารถอ่านที่เก็บข้อมูล ตรวจสอบตัวแปรสภาพแวดล้อม หรือเล่นซ้ำประวัติการสนทนา และเอเย่นต์ที่มีผลข้างเคียงเหล่านั้นกำหนดความน่าเชื่อถือในการทำงานแบบ end-to-end การจัดการบริบทและการควบคุมโทเค็นมีอิทธิพลต่อจำนวนการสนทนาก่อนหน้านี้ที่โมเดลสามารถใช้สำหรับคำขอที่กำหนด
ออกแบบมาเพื่อการใช้งานภายในโครงสร้างพื้นฐานของนักพัฒนา
เป้าหมายการใช้งานรวมถึงคลัสเตอร์คอนเทนเนอร์และเกตเวย์ gRPC ทำให้เครื่องมือสามารถทำงานเป็นเกตเวย์โมเดลที่มีความสามารถในการประมวลผลสูงภายใน Kubernetes โดยใช้ Helm charts ที่จัดเตรียมไว้ โหมด daemon การส่งข้อความช่วยให้ทีมสามารถเชื่อมต่อบอทกับ Telegram, Slack และ Discord สำหรับการแจ้งเตือนการดำเนินงานหรืออินเทอร์เฟซการสนทนา พื้นฐานของนักพัฒนาใน SRE และสถาปัตยกรรมคลาวด์ทำให้เครื่องมือนี้สอดคล้องกับรูปแบบการรวมที่มุ่งเน้นการผลิตซึ่งได้รับความนิยมจากวิศวกรแพลตฟอร์ม
อินเทอร์เฟซแบบ Terminal-first และชุดเครื่องมือเอเย่นต์สนับสนุนการทำงานที่เขียนสคริปต์
การเข้าถึงเทอร์มินัลแบบโต้ตอบเสริมโหมดบริการ ดังนั้นวิศวกรสามารถสร้างต้นแบบคำสั่งได้ในท้องถิ่นก่อนที่จะบันทึกลงในระบบอัตโนมัติ เอเย่นต์ในตัวจัดการการตรวจสอบที่เก็บข้อมูล การเข้าถึงสภาพแวดล้อม และการจัดการการสนทนา ทำให้สามารถแสดงงานต่างๆ เช่น การตรวจสอบการแปลหรือการวิเคราะห์โค้ดในรูปแบบลำดับเอเย่นต์ที่เขียนสคริปต์ การขยายเครื่องมักจะต้องการการแก้ไขการกำหนดค่าและการกำหนดเอเย่นต์ ซึ่งเหมาะกับทีมที่มุ่งเน้นโค้ดมากกว่าผู้ใช้ที่ไม่ใช่ทางเทคนิค
เหมาะสำหรับวิศวกรที่ฝัง LLMs ในโครงสร้างพื้นฐาน โดยต้องมีการตรวจสอบ
เครื่องมือนี้เป็นตัวเลือกที่ใช้งานได้จริงสำหรับนักพัฒนาและผู้เชี่ยวชาญด้าน DevOps ที่ต้องการสะพานที่สามารถโปรแกรมได้ระหว่างโมเดลภาษาและเครื่องมือปฏิบัติการ โดยพิจารณาจากพื้นฐาน SRE และคลาวด์ของนักพัฒนา คาดหวังที่จะสร้างต้นแบบเส้นทางโมเดลและตรวจสอบผลลัพธ์สำหรับการปรับให้เข้ากับท้องถิ่นหรือภารกิจการเขียนโค้ด เพราะประสิทธิภาพขึ้นอยู่กับผู้ให้บริการที่เลือกและวิธีการจัดองค์ประกอบของตัวแทน ให้ถือว่าเครื่องมือนี้เป็นแพลตฟอร์มการรวมเข้าด้วยกันมากกว่าที่จะเป็นผู้ตรวจสอบเนื้อหาที่พร้อมใช้งาน.
