月度归档:2023年11月

开源了个工作

养个AI在自己电脑里是我一直以来的愿望.但从未预想这个时刻会在我还年轻的时代到来.这一年是人类历史上从未有过的时刻,我时时为技术所昭示的未来感到激动和焦虑.

但有件事不能不做.在照顾我家的碳基小犊子和电脑上的硅基小生命之中艰难扑腾了小半年,总算拿出来一个雏形.一个支持agent自己创建及调用子agents,同时又支持agent间相互通讯的轻量级LLM Agent框架, AIlice.

AIlice已经有几个创建好的agents了,通过一个主agent将不同的任务分发给子agents.目前你可以让她去互联网上调研一个主题,或者阅读理解一篇文献,抑或自动编写运行代码.虽然还很简陋,但考虑到LLM模型的发展速度,我想一两年内就会有足以胜任这些工作的开源模型出现.GPT4上则目前就已经能达到非常不错的效果.

AIlice的构想初衷来自于我使用chatpdf之后,深感这项技术如果能用于针对一个领域的调研该多好.这是一个非常科幻的未来,我们把调研一个科研领域的任务交给agent,经过一天半天的努力工作,她再回来跟我们对话,解决你所有的疑问.当然现在AIlice离实现这个初衷还很远,但我想,这几年,我们就能见到这样一项技术的落地.

而另一方面,基于多agents对话的自动编程,效果好的让我意外.微软近期大火的autogen我试用了几次,确实激动人心.后来就在AIlice中也做了一个两角色对话完成编程任务的agent,三下五除二就能在docker容器里部署一个网站,或者去获取一些金融数据做计算分析绘图,这时候,会有一种触摸到未来脉搏的感觉.

当然,openai在突飞猛进,似乎很多应用层的事情都已经不值得做.但我想,并不尽然.比如需要大量计算时间的调研性工作,再比如需要数据保密的处理工作,都更倾向于使用本地开源模型.更重要的,AGI时代,一个高度中心化的科技公司掌握全世界的数据和计算命脉,这真的是个安全的选项吗?绝对不是.openai的使命是让人们为AGI时代即将到来的冲击做好认知准备,而开源AI全面落地的时代终将到来.

你有兴趣的话,不妨来玩玩.

AIlice on Github