กรอบงานตัวแทน AI ที่เน้นท้องถิ่นพร้อมหน่วยความจำถาวรที่มีการควบคุมสำหรับทีม
exxperts, จาก EXXETA, เป็นกรอบงานแบบโอเพนซอร์สสำหรับการสร้างตัวแทน AI ที่เน้นการใช้งานในท้องถิ่นโดยมีหน่วยความจำที่ยั่งยืนและมีการควบคุม แอปพลิเคชันนี้โฮสต์ "AI rooms" ที่ยั่งยืนบนเครื่องของผู้ใช้และใช้ระบบหน่วยความจำที่ต้องได้รับการอนุมัติเพื่อให้ตัวแทนเก็บรักษาข้อเท็จจริงที่ได้รับการอนุมัติโดยผู้ใช้เท่านั้นในระหว่างเซสชัน มันรวมโปรโตคอล Model Context สำหรับการเข้าถึงเครื่องมือแบบสด, สนับสนุนผู้ให้บริการโมเดลหลายราย, และเสนอทั้งพื้นที่ทำงานเว็บในท้องถิ่นและส่วนติดต่อที่ใช้เทอร์มินัล มันมุ่งเป้าไปที่นักพัฒนา, ผู้ใช้ที่ใส่ใจในความเป็นส่วนตัว, และทีมองค์กรที่ต้องการอำนาจในการควบคุมข้อมูลอย่างเข้มงวด.
คุณสามารถใช้มันทำงานอะไรได้บ้าง?
แอปสร้าง "AI rooms" ที่คงบริบทการสนทนาและความจำตลอดเซสชัน ทำให้มันมีประโยชน์สำหรับงานที่ต้องใช้เวลานาน เช่น การวิจัย, การช่วยเขียนโค้ด, และการแปลข้อความ ผู้ใช้สามารถขยายตัวแทนด้วยทักษะที่กำหนดเอง จากส่วนติดต่อเว็บเพื่อทำให้ขั้นตอนเฉพาะด้านเป็นอัตโนมัติ ตัวอย่างกรณีการใช้งานรวมถึงการตรวจสอบโค้ดแบบวนซ้ำ, เธรดการวิจัยหลายเซสชัน, และงานการแปลที่ต้องรักษารายการศัพท์และการตัดสินใจในการแปลระหว่างเซสชัน.
ความจำและผลลัพธ์ของตัวแทนมีความเชื่อถือได้แค่ไหน?
แอปใช้เลเยอร์ความจำที่ต้องการการอนุมัติ ดังนั้นการเขียนความจำแต่ละครั้งจึงต้องได้รับความยินยอมจากผู้ใช้ ซึ่งช่วยปรับปรุงการติดตามสิ่งที่ตัวแทนเก็บไว้ แต่ก็ทำให้ต้องมีการตรวจสอบด้วยมือในกระบวนการทำงานแบบวนซ้ำ เนื่องจากสถาปัตยกรรมไม่ขึ้นอยู่กับโมเดลและรวมโปรโตคอลบริบทโมเดล ตัวแทนสามารถสอบถามเครื่องมือสดและข้อมูลภายนอกแทนที่จะพึ่งพาข้อมูลการฝึกอบรมเพียงอย่างเดียว ซึ่งเปลี่ยนแหล่งความแม่นยำของข้อเท็จจริงไปยังเครื่องมือที่เชื่อมต่อและสถานะความจำที่ได้รับการอนุมัติจากผู้ใช้.
การแลกเปลี่ยนระหว่างแพลตฟอร์มและกระบวนการทำงานคืออะไร?
การติดตั้งจะมุ่งเป้าไปที่เครื่องท้องถิ่นและเก็บข้อมูล Windows ไว้ที่ %USERPROFILE%\.exxperts ในขณะที่ระบบอื่น ๆ ใช้การทำงานแบบฝัง ตัวพื้นที่ทำงานต้องการเว็บเบราว์เซอร์และเครื่องมือยังเปิดเผย CLI/TUI สำหรับกระบวนการทำงานในเทอร์มินัล ดังนั้นการกำหนดค่าตัวแทนจึงต้องการทั้งการเข้าถึงเบราว์เซอร์และความสะดวกสบายกับการทำงานผ่านบรรทัดคำสั่ง การออกแบบที่ไม่ขึ้นอยู่กับโมเดลทำให้ผู้ใช้สามารถลงชื่อเข้าใช้ผู้ให้บริการโมเดลภายนอกผ่านส่วนติดต่อเว็บเพื่อขับเคลื่อนห้อง เพิ่มการเชื่อมโยงบัญชีเป็นขั้นตอนการตั้งค่า.
มันจัดการกับความเป็นส่วนตัวอย่างไรและใครควรใช้มัน?
การอ้างสิทธิ์ความเป็นส่วนตัวขึ้นอยู่กับโมเดลการประมวลผลที่มุ่งเน้นท้องถิ่น โดยนักพัฒนาระบุว่าไม่มีอะไรที่ถูกจดจำหรือส่งออกนอกโฮสต์โดยไม่มีความยินยอมที่ชัดเจน EXXETA เป็นบริษัทเทคโนโลยีและที่ปรึกษาที่ตั้งอยู่ในเยอรมนีที่มุ่งเน้นไปที่อำนาจอธิปไตยของข้อมูลและเครื่องมือโอเพนซอร์ส ซึ่งสอดคล้องกับการเน้นการกำกับดูแลของกรอบงาน โครงการนี้ได้รับการดูแลอย่างต่อเนื่องบน GitHub ซึ่งเป็นรายละเอียดที่สนับสนุนการตรวจสอบโค้ดและการตรวจสอบทางเทคนิคโดยทีมงานที่นำเครื่องมือนี้ไปใช้.
เหมาะที่สุดสำหรับทีมที่มีความสามารถทางเทคนิคซึ่งให้ความสำคัญกับการตรวจสอบมากกว่าความสะดวกสบาย
เนื่องจากการบำรุงรักษา GitHub ที่มีการดำเนินการอย่างต่อเนื่องและท่าทีที่เน้นการกำกับดูแล โครงการนี้จึงเหมาะสำหรับทีมที่ชอบโฮสต์และตรวจสอบโครงสร้างพื้นฐาน AI ของตนเองมากกว่าการพึ่งพาผู้ช่วยในคลาวด์ แอปพลิเคชันต้องการการกำหนดค่าที่ต้องทำด้วยตนเองและความสนใจในการกำกับดูแล ดังนั้นจึงเหมาะกับนักพัฒนาและกลุ่มองค์กรที่เตรียมพร้อมในการดำเนินงานและตรวจสอบการติดตั้งในท้องถิ่น คาดว่าจะได้เห็นโซลูชันที่เป็นรูปธรรมและลงมือทำสำหรับทีมที่ให้ความสำคัญกับการควบคุมข้อมูลมากกว่าความสะดวกในการใช้งานแบบเสียบและเล่น
