哇!这太棒了!- 在浏览器中- 本地推断- LLaMa 3 7B 指示!- 完全私密!- 运行得很好!我之前没有意识到这些可以在本地以如此快的推断速度运行。https://secretllama.comhttps://github.com/abi/secret-llama