由来

时间回到 2017 年，老东家要上 Kubernetes 了，有幸参与和学习（主要是学习）。当时遇到的一了所有 Java 容器化者都遇到的坑：JDK8 不为容器化设计综合症。最简单的例子是Runtime.getRuntime().availableProcessors()返回了主机的 CPU 数，而非期望的容器自身的cpu share/quota，或说 k8s 的 cpu request/limit。

为何要调优

如果说，引入一个技术需要兴趣和冲劲，那么，让这个技术上线需要的是坚持和执着。 Cloud Native 如是， Istio 如是。
在上线前的性能测试中，Istio 的使用提供了可观察性、运维上的便利，同时也引入了痛苦：增加了服务响应延时。如何让痛苦减到最低，成了当下之急。

前言

话说，一年前项目响应时代的号召，引入了 Istio，从此如刘备得卧龙、凤雏，走上了 Service Mesh 的光辉大道。现到准备益州之战(上线)之时。上线前，还得评估一下性能变化。

程序员的平行宇宙

程序员有两个世界：

1. 一个是编码世界，我们很容易认为，我们考虑了一切，也完成了一切的代码。
2. 然后是运行世界，我们发现，无论我们多么的严谨和考虑一切，世界总是有异常。异常就好像电磁波，一开始，我们只能通过它引发的结果而发现它，而不能直接观察。因为它总出现在那些黑暗的角落，如果我们手中没有电简和电磁波示波器，一切只能依靠猜测和迷信。最后，我们进入了一个用猜测驱动的世界。有时候，我们运气好，猜中了。有时候，我们只能在 release 前多上香。

It is a capital mistake to theorize before one has data. Insensibly one begins to twist facts to suit theories, instead of theories to suit facts.

2月4日 - IT当年今日

1943年2月4日 Ken Thompson 出生

简介

Unix 来源于一个程序员想玩游戏

肯尼斯·汤普森（Kenneth Thompson）与丹尼斯·里奇（Dennis Ritchie）一起在AT＆T贝尔实验室开发了UNIX。 UNIX操作系统结合了Multics提供的许多分时和文件管理功能，并由此得名。 （Multics是1960年代中期的一个项目，代表了创建多用户，多任务操作系统的第一项努力。）UNIX操作系统迅速赢得了广泛的关注，尤其是在工程师和科学家中。

2020年回顾

2020让我受益最大的资料 📚

翻开印象笔记，我回顾了一下最有价值的资料:

Service Mesh

• 深度理解 Istio 如何路由 TCP 流量

Container

• Under the hood of Docker — Janos Pasztor
• Understanding resource limits in kubernetes: cpu time
• CPU limits and aggressive throttling in Kubernetes
• Unthrottled: Fixing CPU Limits in the Cloud
• Under the hood of Docker
• All things Linux containers
• Implementing Container Runtime Shim
• Seccomp in Kubernetes
• Containerization Mechanisms: Cgroups

Linux

• Learn about different I/O Access Methods and what we chose for Scylla
• [Book: BPF Performance Tools]

GraphQL

• How Netflix Scales its API with GraphQL Federation

学到的技术⛷

• Docker/Container 实现原理和架构的入门

J: welcome everyone to another Agent

Gateway community meeting. Um, we have a few items but nothing.

Um, if you have anything else like feel free

to add it. Uh, we can we can go and uh go in order.

Uh, while we’re getting our names in there and some agenda. Yeah, Carlos,

what’s up?

C: No, just like uh as a as a standing thing like just um we can have

 1
 2
 3
 4
 5
 6
 7
 8
 9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30

from langchain.llms import Ollama
from langchain.embeddings import OllamaEmbeddings
from langchain.chains import RetrievalQA
from langchain.vectorstores import FAISS
from langchain.text_splitter import CharacterTextSplitter
from langchain.document_loaders import TextLoader

# 加载本地模型
llm = Ollama(model="llama2")
embeddings = OllamaEmbeddings(model="llama2")

# 加载文档
loader = TextLoader("your_knowledge_base.txt")
documents = loader.load()

# 切分文本
text_splitter = CharacterTextSplitter(chunk_size=1000, chunk_overlap=0)
texts = text_splitter.split_documents(documents)

# 创建向量数据库
db = FAISS.from_documents(texts, embeddings)

# 创建问答链
qa = RetrievalQA.from_chain_type(llm=llm, chain_type="stuff", retriever=db.as_retriever())

# 提问
query = "你的问题是什么？"
result = qa.run(query)

print(result)

FAISS.from_documents()

上面程序中，FAISS.from_documents 是什么作用？

https://en.wikipedia.org/wiki/JSON-RPC

https://www.jsonrpc.org/specification

HTTP with SSE(v2024-11-05)

https://modelcontextprotocol.io/specification/2024-11-05/basic/transports#http-with-sse

The server MUST provide two endpoints:

1. An SSE endpoint, for clients to establish a connection and receive messages from the server
2. A regular HTTP POST endpoint for clients to send messages to the server

双连接，一个SSE，一个POST。 SSE 用于服务器推送，POST用于客户端发送。