Prompt Caching：連續對話的錢怎麼算（實驗場）

import%20marimo%0A%0A__generated_with%20%3D%20%220.23.16%22%0Aapp%20%3D%20marimo.App(width%3D%22medium%22%2C%20app_title%3D%22Prompt%20Caching%EF%BC%9A%E9%80%A3%E7%BA%8C%E5%B0%8D%E8%A9%B1%E7%9A%84%E9%8C%A2%E6%80%8E%E9%BA%BC%E7%AE%97%EF%BC%88%E5%AF%A6%E9%A9%97%E5%A0%B4%EF%BC%89%22)%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_(mo)%3A%0A%20%20%20%20mo.md(r%22%22%22%0A%20%20%20%20%23%20%F0%9F%A7%AA%20Prompt%20Caching%EF%BC%9A%E9%80%A3%E7%BA%8C%E5%B0%8D%E8%A9%B1%E7%9A%84%E9%8C%A2%E6%80%8E%E9%BA%BC%E7%AE%97%EF%BC%88%E5%AF%A6%E9%A9%97%E5%A0%B4%EF%BC%89%0A%0A%20%20%20%20%E9%80%99%E6%98%AF%E6%9C%AC%E8%AA%B2%E7%9A%84**%E5%AF%A6%E9%A9%97%E5%A0%B4**%E3%80%82%E5%B7%A6%E5%81%B4%E6%95%99%E5%AD%B8%E8%AE%80%E5%88%B0%E5%93%AA%EF%BC%8C%E5%B0%B1%E5%9B%9E%E5%88%B0%E9%80%99%E8%A3%A1%E5%8B%95%E6%89%8B%E5%81%9A%E2%80%94%E2%80%94%0A%20%20%20%20%E6%AF%8F%E4%B8%80%E6%A0%BC%E7%A8%8B%E5%BC%8F%E7%A2%BC%E9%83%BD%E5%8F%AF%E4%BB%A5**%E7%9B%B4%E6%8E%A5%E4%BF%AE%E6%94%B9%E3%80%81%E7%AB%8B%E5%8D%B3%E9%87%8D%E8%B7%91**%EF%BC%88%E9%BB%9E%E6%A0%BC%E5%AD%90%E5%8F%B3%E4%B8%8A%E7%9A%84%20%E2%96%B6%EF%BC%8C%E6%88%96%E6%8C%89%20%60Ctrl%2BEnter%60%EF%BC%89%E3%80%82%0A%20%20%20%20%E6%94%B9%E5%A3%9E%E4%BA%86%E4%B9%9F%E6%B2%92%E9%97%9C%E4%BF%82%EF%BC%9A%E9%87%8D%E6%96%B0%E6%95%B4%E7%90%86%E9%A0%81%E9%9D%A2%E5%B0%B1%E6%9C%83%E5%9B%9E%E5%88%B0%E5%8E%9F%E7%89%88%E3%80%82%0A%0A%20%20%20%20%E9%80%99%E8%A3%A1%E6%B2%92%E6%9C%89%E4%BB%BB%E4%BD%95%E7%B6%B2%E8%B7%AF%E5%91%BC%E5%8F%AB%EF%BC%9A**%E5%B8%B3%E5%96%AE%E6%98%AF%E7%85%A7%E5%85%AC%E9%96%8B%E8%B2%BB%E7%8E%87%E4%B8%80%E7%AD%86%E4%B8%80%E7%AD%86%E7%9C%9F%E7%AE%97%E5%87%BA%E4%BE%86%E7%9A%84**%EF%BC%8C%0A%20%20%20%20%E6%89%80%E4%BB%A5%E4%BD%A0%E5%8F%AF%E4%BB%A5%E6%8A%8A%E8%B2%BB%E7%8E%87%E6%94%B9%E6%88%90%E8%87%AA%E5%B7%B1%E6%96%B9%E6%A1%88%E7%9A%84%E6%95%B8%E5%AD%97%EF%BC%8C%E6%95%B4%E4%BB%BD%20notebook%20%E7%AB%8B%E5%88%BB%E8%B7%9F%E8%91%97%E8%AE%8A%E3%80%82%0A%20%20%20%20%22%22%22)%0A%20%20%20%20return%0A%0A%0A%40app.cell%0Adef%20_()%3A%0A%20%20%20%20import%20marimo%20as%20mo%0A%0A%20%20%20%20return%20(mo%2C)%0A%0A%0A%40app.cell%0Adef%20_()%3A%0A%20%20%20%20%23%20%E7%A7%91%E5%AD%B8%E5%A5%97%E4%BB%B6%E9%9B%86%E4%B8%AD%E5%9C%A8%E9%80%99%E6%A0%BC%20import%EF%BC%8C%E5%9B%9E%E5%82%B3%E7%B5%A6%E5%85%A8%20notebook%20%E7%94%A8%0A%20%20%20%20import%20matplotlib.pyplot%20as%20plt%0A%20%20%20%20import%20numpy%20as%20np%0A%0A%20%20%20%20return%20np%2C%20plt%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_(mo)%3A%0A%20%20%20%20mo.md(r%22%22%22%0A%20%20%20%20%23%23%201%EF%B8%8F%E2%83%A3%20%E4%BA%94%E7%A8%AE%E5%83%B9%E9%8C%A2%EF%BC%9A%E5%85%88%E6%8A%8A%E8%B2%BB%E7%8E%87%E8%A1%A8%E6%94%BE%E9%80%B2%E7%A8%8B%E5%BC%8F%E8%A3%A1%0A%0A%20%20%20%20%E9%80%A3%E7%BA%8C%E5%B0%8D%E8%A9%B1%E6%9C%83%E7%94%A8%E5%88%B0%E7%9A%84%E5%83%B9%E7%9B%AE%E5%8F%AA%E6%9C%89%E4%BA%94%E7%A8%AE%E3%80%82%E4%B8%8B%E9%9D%A2%E9%80%99%E6%A0%BC%E6%98%AF%E6%9C%AC%E8%AA%B2**%E5%94%AF%E4%B8%80%E7%9A%84%E8%B2%BB%E7%8E%87%E4%BE%86%E6%BA%90**%E2%80%94%E2%80%94%0A%20%20%20%20%E6%83%B3%E6%8F%9B%E6%88%90%E8%87%AA%E5%B7%B1%E6%96%B9%E6%A1%88%E7%9A%84%E6%95%B8%E5%AD%97%EF%BC%8C%E6%94%B9%E9%80%99%E4%B8%80%E6%A0%BC%E5%B0%B1%E5%A5%BD%EF%BC%8C%E5%BE%8C%E9%9D%A2%E6%89%80%E6%9C%89%E9%87%91%E9%A1%8D%E8%88%87%E5%9C%96%E8%A1%A8%E9%83%BD%E6%9C%83%E8%B7%9F%E8%91%97%E9%87%8D%E7%AE%97%E3%80%82%0A%0A%20%20%20%20%EF%BC%88%E7%A4%BA%E7%AF%84%E7%94%A8%E7%9A%84%E6%98%AF%E5%AE%98%E6%96%B9%E5%85%AC%E9%96%8B%E5%AE%9A%E5%83%B9%E7%9A%84%E5%85%B6%E4%B8%AD%E4%B8%80%E7%B5%84%EF%BC%9B%E5%83%B9%E6%A0%BC%E6%9C%83%E8%AA%BF%E6%95%B4%EF%BC%8C%E5%AF%A6%E9%9A%9B%E4%BB%A5%E5%AE%98%E6%96%B9%E5%AE%9A%E5%83%B9%E9%A0%81%E7%82%BA%E6%BA%96%E3%80%82%EF%BC%89%0A%20%20%20%20%22%22%22)%0A%20%20%20%20return%0A%0A%0A%40app.cell%0Adef%20_(mo)%3A%0A%20%20%20%20%23%20%3D%3D%3D%3D%3D%20%E8%B2%BB%E7%8E%87%EF%BC%88%E6%AF%8F%E7%99%BE%E8%90%AC%20tokens%EF%BC%8C%E7%BE%8E%E5%85%83%EF%BC%89%3D%3D%3D%3D%3D%0A%20%20%20%20BASE_IN%20%3D%2010.0%20%20%20%20%23%20%E4%B8%80%E8%88%AC%E8%BC%B8%E5%85%A5%EF%BC%9A%E6%B2%92%E8%A2%AB%E5%BF%AB%E5%8F%96%E5%88%B0%E7%9A%84%E9%83%A8%E5%88%86%0A%20%20%20%20WRITE_5M%20%3D%2012.5%20%20%20%23%20%E5%BF%AB%E5%8F%96%E5%AF%AB%E5%85%A5%EF%BC%885%20%E5%88%86%E9%90%98%20TTL%EF%BC%89%EF%BC%9A%E6%96%B0%E5%85%A7%E5%AE%B9%E7%AC%AC%E4%B8%80%E6%AC%A1%E9%80%B2%E5%BF%AB%E5%8F%96%0A%20%20%20%20WRITE_1H%20%3D%2020.0%20%20%20%23%20%E5%BF%AB%E5%8F%96%E5%AF%AB%E5%85%A5%EF%BC%881%20%E5%B0%8F%E6%99%82%20TTL%EF%BC%89%0A%20%20%20%20CACHE_HIT%20%3D%201.0%20%20%20%23%20%E5%BF%AB%E5%8F%96%E5%91%BD%E4%B8%AD%EF%BC%9A%E9%87%8D%E8%A4%87%E8%AE%80%E5%8F%96%E5%B7%B2%E5%BF%AB%E5%8F%96%E7%9A%84%E5%89%8D%E7%B6%B4%0A%20%20%20%20OUTPUT%20%3D%2050.0%20%20%20%20%20%23%20%E6%A8%A1%E5%9E%8B%E7%94%A2%E7%94%9F%E7%9A%84%E5%9B%9E%E7%AD%94%0A%20%20%20%20MTOK%20%3D%201_000_000%0A%0A%20%20%20%20mo.md(%0A%20%20%20%20%20%20%20%20rf%22%22%22%0A%20%20%20%20%7C%20%E9%A0%85%E7%9B%AE%20%7C%20%E6%AF%8F%20MTok%20%7C%20%E4%BB%80%E9%BA%BC%E6%99%82%E5%80%99%E4%BB%98%20%7C%0A%20%20%20%20%7C---%7C---%3A%7C---%7C%0A%20%20%20%20%7C%20Base%20Input%20%7C%20%5C%24%7BBASE_IN%3A.2f%7D%20%7C%20%E6%B2%92%E8%A2%AB%E5%BF%AB%E5%8F%96%E7%9A%84%E4%B8%80%E8%88%AC%E8%BC%B8%E5%85%A5%20%7C%0A%20%20%20%20%7C%20Cache%20Write%EF%BC%885%20%E5%88%86%E9%90%98%EF%BC%89%20%7C%20%5C%24%7BWRITE_5M%3A.2f%7D%20%7C%20%E6%96%B0%E5%85%A7%E5%AE%B9%E7%AC%AC%E4%B8%80%E6%AC%A1%E5%AF%AB%E5%85%A5%E5%BF%AB%E5%8F%96%20%7C%0A%20%20%20%20%7C%20Cache%20Write%EF%BC%881%20%E5%B0%8F%E6%99%82%EF%BC%89%20%7C%20%5C%24%7BWRITE_1H%3A.2f%7D%20%7C%20%E6%94%B9%E7%94%A8%E9%95%B7%20TTL%20%E6%99%82%E7%9A%84%E5%AF%AB%E5%85%A5%20%7C%0A%20%20%20%20%7C%20**Cache%20Hit**%20%7C%20**%5C%24%7BCACHE_HIT%3A.2f%7D**%20%7C%20%E9%87%8D%E8%A4%87%E8%AE%80%E5%8F%96%E5%B7%B2%E5%BF%AB%E5%8F%96%E7%9A%84%E5%85%A7%E5%AE%B9%20%7C%0A%20%20%20%20%7C%20Output%20%7C%20%5C%24%7BOUTPUT%3A.2f%7D%20%7C%20%E6%A8%A1%E5%9E%8B%E7%94%A2%E7%94%9F%E7%9A%84%E5%9B%9E%E7%AD%94%20%7C%0A%0A%20%20%20%20%E5%85%A9%E5%80%8B%E6%B1%BA%E5%AE%9A%E4%B8%80%E5%88%87%E7%9A%84%E6%AF%94%E5%80%BC%EF%BC%9A**%E5%91%BD%E4%B8%AD%E5%8F%AA%E8%A6%81%E4%B8%80%E8%88%AC%E8%BC%B8%E5%85%A5%E7%9A%84%201%2F%7BBASE_IN%20%2F%20CACHE_HIT%3A.0f%7D**%EF%BC%8C%0A%20%20%20%20%E8%80%8C%E5%AF%AB%E5%85%A5%E6%AF%94%E4%B8%80%E8%88%AC%E8%BC%B8%E5%85%A5%E8%B2%B4%20%7BWRITE_5M%20%2F%20BASE_IN%20-%201%3A.0%25%7D%E2%80%94%E2%80%94%E8%B2%B4%E7%9A%84%E9%82%A3%E4%B8%80%E6%AC%A1%EF%BC%8C%E6%9C%83%E8%A2%AB%E4%B9%8B%E5%BE%8C%E6%AF%8F%E4%B8%80%E6%AC%A1%E5%91%BD%E4%B8%AD%E8%B3%BA%E5%9B%9E%E4%BE%86%E3%80%82%0A%20%20%20%20%22%22%22%0A%20%20%20%20)%0A%20%20%20%20return%20BASE_IN%2C%20CACHE_HIT%2C%20MTOK%2C%20OUTPUT%2C%20WRITE_1H%2C%20WRITE_5M%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_(mo)%3A%0A%20%20%20%20mo.md(r%22%22%22%0A%20%20%20%20%23%23%202%EF%B8%8F%E2%83%A3%20%E6%AF%8F%E8%BC%AA%E5%8F%AA%E4%BB%98%E4%B8%89%E7%A8%AE%E9%8C%A2%EF%BC%9A%E6%8A%8A%E4%B8%80%E6%AE%B5%E5%B0%8D%E8%A9%B1%E8%B7%91%E6%88%90%E4%B8%80%E5%BC%B5%E5%B8%B3%E5%96%AE%0A%0A%20%20%20%20%E9%80%A3%E7%BA%8C%E5%B0%8D%E8%A9%B1%E7%9A%84%E8%A6%8F%E5%89%87%E5%85%B6%E5%AF%A6%E5%8F%AA%E6%9C%89%E4%B8%89%E8%A1%8C%EF%BC%9A%0A%0A%20%20%20%20-%20**%E8%88%8A%E5%85%A7%E5%AE%B9**%EF%BC%88%E4%B9%8B%E5%89%8D%E6%89%80%E6%9C%89%E5%B0%8D%E8%A9%B1%E6%AD%B7%E5%8F%B2%EF%BC%89%EF%BC%9A%E4%B8%8A%E4%B8%80%E8%BC%AA%E5%B7%B2%E7%B6%93%E5%AF%AB%E9%80%B2%E5%BF%AB%E5%8F%96%E4%BA%86%20%E2%86%92%20%E8%B5%B0%20**Cache%20Hit**%0A%20%20%20%20-%20**%E6%96%B0%E5%85%A7%E5%AE%B9**%EF%BC%88%E9%80%99%E4%B8%80%E8%BC%AA%E6%96%B0%E5%A2%9E%E7%9A%84%E5%95%8F%E9%A1%8C%EF%BC%89%EF%BC%9A%E7%AC%AC%E4%B8%80%E6%AC%A1%E5%87%BA%E7%8F%BE%20%E2%86%92%20%E4%BB%98%20**Cache%20Write**%0A%20%20%20%20-%20**%E8%BC%B8%E5%87%BA**%EF%BC%88%E6%A8%A1%E5%9E%8B%E7%9A%84%E5%9B%9E%E7%AD%94%EF%BC%89%EF%BC%9A%E8%B7%9F%E5%BF%AB%E5%8F%96%E7%84%A1%E9%97%9C%20%E2%86%92%20%E7%85%A7%E5%B8%B8%E8%A8%88%E8%B2%BB%0A%0A%20%20%20%20%E5%B0%8D%E8%A9%B1%E6%AD%B7%E5%8F%B2**%E5%8F%AA%E5%A2%9E%E4%B8%8D%E6%94%B9**%E2%80%94%E2%80%94%E6%AF%8F%E4%B8%80%E8%BC%AA%E9%83%BD%E6%98%AF%E5%9C%A8%E4%B8%8A%E4%B8%80%E8%BC%AA%E5%BE%8C%E9%9D%A2%E6%8E%A5%E6%9D%B1%E8%A5%BF%EF%BC%8C%E5%89%8D%E9%9D%A2%E9%82%A3%E4%B8%80%E5%A4%A7%E6%AE%B5%E4%B8%80%E5%80%8B%E5%AD%97%E9%83%BD%E6%B2%92%E5%8B%95%E3%80%82%0A%20%20%20%20%E9%80%99%E6%AD%A3%E5%A5%BD%E5%B0%B1%E6%98%AF%E3%80%8C%E5%85%B1%E7%94%A8%E5%89%8D%E7%B6%B4%E3%80%8D%E7%9A%84%E5%AE%9A%E7%BE%A9%EF%BC%8C%E6%89%80%E4%BB%A5%E9%80%A3%E7%BA%8C%E5%B0%8D%E8%A9%B1%E5%A4%A9%E7%84%B6%E5%90%83%E5%BE%97%E5%88%B0%E5%BF%AB%E5%8F%96%EF%BC%8C%E4%B8%8D%E9%9C%80%E8%A6%81%E4%BD%A0%E5%81%9A%E4%BB%BB%E4%BD%95%E8%A8%AD%E5%AE%9A%E3%80%82%0A%0A%20%20%20%20%E4%B8%8B%E9%9D%A2%E7%9A%84%20%60run_chat()%60%20%E6%98%AF%E6%9C%AC%E8%AA%B2%E7%9A%84%E8%A8%88%E8%B2%BB%E5%BC%95%E6%93%8E%EF%BC%8C%E5%BE%8C%E9%9D%A2%E6%AF%8F%E5%BC%B5%E5%9C%96%E9%83%BD%E7%94%B1%E5%AE%83%E7%AE%97%E5%87%BA%E4%BE%86%E3%80%82%0A%20%20%20%20%60breaks%60%20%E5%8F%83%E6%95%B8%E5%85%88%E4%B8%8D%E7%94%A8%E7%AE%A1%EF%BC%8C%E7%AC%AC%205%EF%B8%8F%E2%83%A3%20%E7%AF%80%E6%89%8D%E6%9C%83%E7%94%A8%E5%88%B0%E3%80%82%0A%20%20%20%20%22%22%22)%0A%20%20%20%20return%0A%0A%0A%40app.cell%0Adef%20_(BASE_IN%2C%20CACHE_HIT%2C%20MTOK%2C%20OUTPUT%2C%20WRITE_5M)%3A%0A%20%20%20%20def%20run_chat(n_rounds%2C%20sys_tok%2C%20q_tok%2C%20a_tok%2C%20cached%3DTrue%2C%20breaks%3DNone%2C%20write_rate%3DNone)%3A%0A%20%20%20%20%20%20%20%20%22%22%22%E6%A8%A1%E6%93%AC%E4%B8%80%E6%AE%B5%E9%80%A3%E7%BA%8C%E5%B0%8D%E8%A9%B1%E7%9A%84%E5%B8%B3%E5%96%AE%EF%BC%8C%E5%9B%9E%E5%82%B3%E6%AF%8F%E4%B8%80%E8%BC%AA%E7%9A%84%E6%98%8E%E7%B4%B0%E3%80%82%0A%0A%20%20%20%20%20%20%20%20sys_tok%20%2F%20q_tok%20%2F%20a_tok%EF%BC%9A%E7%B3%BB%E7%B5%B1%E6%8F%90%E7%A4%BA%E3%80%81%E6%AF%8F%E8%BC%AA%E5%95%8F%E9%A1%8C%E3%80%81%E6%AF%8F%E8%BC%AA%E5%9B%9E%E7%AD%94%E7%9A%84%20token%20%E6%95%B8%0A%20%20%20%20%20%20%20%20cached%3DFalse%EF%BC%9A%E5%AE%8C%E5%85%A8%E4%B8%8D%E7%94%A8%E5%BF%AB%E5%8F%96%EF%BC%8C%E6%AF%8F%E8%BC%AA%E6%95%B4%E6%AE%B5%E6%AD%B7%E5%8F%B2%E9%83%BD%E4%BB%A5%20Base%20Input%20%E8%A8%88%E5%83%B9%0A%20%20%20%20%20%20%20%20breaks%3D%7B%E8%BC%AA%E6%AC%A1%3A%20%E9%A1%8D%E5%A4%96%20token%7D%EF%BC%9A%E9%80%99%E4%B8%80%E8%BC%AA%E5%89%8D%E7%B6%B4%E8%A2%AB%E5%8B%95%E9%81%8E%EF%BC%88%E6%8F%9B%E6%A8%A1%E5%9E%8B%EF%BC%8F%E6%94%B9%E5%B7%A5%E5%85%B7%EF%BC%8FTTL%20%E9%81%8E%E6%9C%9F%EF%BC%89%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%E2%86%92%20%E6%95%B4%E6%AE%B5%E6%AD%B7%E5%8F%B2%E5%A4%B1%E6%95%88%EF%BC%8C%E5%BF%85%E9%A0%88%E9%87%8D%E6%96%B0%E5%AF%AB%E5%85%A5%E5%BF%AB%E5%8F%96%0A%20%20%20%20%20%20%20%20%22%22%22%0A%20%20%20%20%20%20%20%20write_rate%20%3D%20WRITE_5M%20if%20write_rate%20is%20None%20else%20write_rate%0A%20%20%20%20%20%20%20%20breaks%20%3D%20breaks%20or%20%7B%7D%0A%20%20%20%20%20%20%20%20rows%2C%20hist%20%3D%20%5B%5D%2C%200%20%20%23%20hist%20%3D%20%E7%9B%AE%E5%89%8D%E5%B7%B2%E7%B6%93%E5%9C%A8%E5%BF%AB%E5%8F%96%E8%A3%A1%E7%9A%84%E5%89%8D%E7%B6%B4%E9%95%B7%E5%BA%A6%0A%20%20%20%20%20%20%20%20for%20i%20in%20range(1%2C%20n_rounds%20%2B%201)%3A%0A%20%20%20%20%20%20%20%20%20%20%20%20extra%20%3D%20breaks.get(i)%0A%20%20%20%20%20%20%20%20%20%20%20%20new%20%3D%20(sys_tok%20%2B%20q_tok)%20if%20i%20%3D%3D%201%20else%20q_tok%0A%20%20%20%20%20%20%20%20%20%20%20%20if%20extra%20is%20not%20None%3A%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20new%20%2B%3D%20extra%20%20%23%20%E4%BE%8B%E5%A6%82%E6%96%B0%E5%A2%9E%E7%9A%84%E5%B7%A5%E5%85%B7%E5%AE%9A%E7%BE%A9%EF%BC%8C%E6%9C%83%E9%95%B7%E5%9C%A8%E7%B3%BB%E7%B5%B1%E6%8F%90%E7%A4%BA%E5%B1%A4%0A%20%20%20%20%20%20%20%20%20%20%20%20if%20not%20cached%3A%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20inp%20%3D%20hist%20%2B%20new%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20row%20%3D%20%7B%22round%22%3A%20i%2C%20%22hit%22%3A%200%2C%20%22write%22%3A%200%2C%20%22base%22%3A%20inp%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%22cost%22%3A%20inp%20%2F%20MTOK%20*%20BASE_IN%20%2B%20a_tok%20%2F%20MTOK%20*%20OUTPUT%7D%0A%20%20%20%20%20%20%20%20%20%20%20%20else%3A%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20broken%20%3D%20extra%20is%20not%20None%20and%20i%20%3E%201%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20write%20%3D%20(hist%20%2B%20new)%20if%20broken%20else%20new%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20hit%20%3D%200%20if%20broken%20else%20hist%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20row%20%3D%20%7B%22round%22%3A%20i%2C%20%22hit%22%3A%20hit%2C%20%22write%22%3A%20write%2C%20%22base%22%3A%200%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%22cost%22%3A%20write%20%2F%20MTOK%20*%20write_rate%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%2B%20hit%20%2F%20MTOK%20*%20CACHE_HIT%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%2B%20a_tok%20%2F%20MTOK%20*%20OUTPUT%7D%0A%20%20%20%20%20%20%20%20%20%20%20%20rows.append(row)%0A%20%20%20%20%20%20%20%20%20%20%20%20hist%20%2B%3D%20new%20%2B%20a_tok%20%20%23%20%E9%80%99%E8%BC%AA%E7%9A%84%E6%96%B0%E5%85%A7%E5%AE%B9%E8%88%87%E5%9B%9E%E7%AD%94%EF%BC%8C%E4%B8%8B%E4%B8%80%E8%BC%AA%E5%B0%B1%E6%88%90%E4%BA%86%E3%80%8C%E8%88%8A%E6%AD%B7%E5%8F%B2%E3%80%8D%0A%0A%20%20%20%20%20%20%20%20return%20rows%0A%0A%20%20%20%20def%20total(rows)%3A%0A%20%20%20%20%20%20%20%20return%20sum(r%5B%22cost%22%5D%20for%20r%20in%20rows)%0A%0A%20%20%20%20return%20run_chat%2C%20total%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_(BASE_IN%2C%20CACHE_HIT%2C%20MTOK%2C%20OUTPUT%2C%20WRITE_5M%2C%20mo%2C%20run_chat%2C%20total)%3A%0A%20%20%20%20%23%20%E7%B6%93%E5%85%B8%E6%83%85%E5%A2%83%EF%BC%9A%E7%B3%BB%E7%B5%B1%E6%8F%90%E7%A4%BA%2010K%E3%80%81%E6%AF%8F%E8%BC%AA%E5%95%8F%201K%E3%80%81%E6%AF%8F%E8%BC%AA%E7%AD%94%202K%EF%BC%8C%E9%80%A3%E7%BA%8C%E8%81%8A%E4%B8%89%E8%BC%AA%0A%20%20%20%20_c%20%3D%20run_chat(3%2C%2010_000%2C%201_000%2C%202_000)%0A%20%20%20%20_p%20%3D%20run_chat(3%2C%2010_000%2C%201_000%2C%202_000%2C%20cached%3DFalse)%0A%20%20%20%20_lines%20%3D%20%5B%5D%0A%20%20%20%20for%20_r%20in%20_c%3A%0A%20%20%20%20%20%20%20%20_hit_s%20%3D%20(%0A%20%20%20%20%20%20%20%20%20%20%20%20rf%22%7B_r%5B'hit'%5D%20%2F%2F%201000%7DK%20%E2%86%92%20%5C%24%7B_r%5B'hit'%5D%20%2F%20MTOK%20*%20CACHE_HIT%3A.3f%7D%22%20if%20_r%5B%22hit%22%5D%20else%20%22%E2%80%94%22%0A%20%20%20%20%20%20%20%20)%0A%20%20%20%20%20%20%20%20_lines.append(%0A%20%20%20%20%20%20%20%20%20%20%20%20rf%22%20%20%20%20%7C%20%E7%AC%AC%20%7B_r%5B'round'%5D%7D%20%E8%BC%AA%20%7C%20%7B_hit_s%7D%20%22%0A%20%20%20%20%20%20%20%20%20%20%20%20rf%22%7C%20%7B_r%5B'write'%5D%20%2F%2F%201000%7DK%20%E2%86%92%20%5C%24%7B_r%5B'write'%5D%20%2F%20MTOK%20*%20WRITE_5M%3A.4f%7D%20%22%0A%20%20%20%20%20%20%20%20%20%20%20%20rf%22%7C%202K%20%E2%86%92%20%5C%24%7B2_000%20%2F%20MTOK%20*%20OUTPUT%3A.3f%7D%20%7C%20**%5C%24%7B_r%5B'cost'%5D%3A.4f%7D**%20%7C%22%0A%20%20%20%20%20%20%20%20)%0A%20%20%20%20_table%20%3D%20%22%5Cn%22.join(_lines)%0A%20%20%20%20mo.md(%0A%20%20%20%20%20%20%20%20rf%22%22%22%0A%20%20%20%20%20%20%20%20%7C%20%E8%BC%AA%E6%AC%A1%20%7C%20%E5%91%BD%E4%B8%AD%20%5C%24%7BCACHE_HIT%3A.0f%7D%2FMTok%20%7C%20%E5%AF%AB%E5%85%A5%20%5C%24%7BWRITE_5M%3A.2f%7D%2FMTok%20%7C%20%E8%BC%B8%E5%87%BA%20%5C%24%7BOUTPUT%3A.0f%7D%2FMTok%20%7C%20%E5%B0%8F%E8%A8%88%20%7C%0A%20%20%20%20%20%20%20%20%7C---%7C---%7C---%7C---%7C---%3A%7C%0A%20%20%20%20%7B_table%7D%0A%0A%20%20%20%20%20%20%20%20**%E4%B8%89%E8%BC%AA%E7%B8%BD%E8%A8%88%20%5C%24%7Btotal(_c)%3A.4f%7D**%EF%BC%8C%E5%90%8C%E4%B8%80%E6%AE%B5%E5%B0%8D%E8%A9%B1%E5%AE%8C%E5%85%A8%E4%B8%8D%E7%94%A8%E5%BF%AB%E5%8F%96%E8%A6%81%20**%5C%24%7Btotal(_p)%3A.4f%7D**%E2%80%94%E2%80%94%0A%20%20%20%20%20%20%20%20%E7%9C%81%20%7B1%20-%20total(_c)%20%2F%20total(_p)%3A.0%25%7D%E3%80%82%0A%0A%20%20%20%20%20%20%20%20%E7%9C%8B%E7%AC%AC%203%20%E8%BC%AA%EF%BC%9A%7B_c%5B2%5D%5B'hit'%5D%20%2F%2F%201000%7DK%20%E7%9A%84%E5%B0%8D%E8%A9%B1%E6%AD%B7%E5%8F%B2%E5%8F%AA%E8%8A%B1%E4%BA%86%0A%20%20%20%20%20%20%20%20%5C%24%7B_c%5B2%5D%5B'hit'%5D%20%2F%20MTOK%20*%20CACHE_HIT%3A.3f%7D%EF%BC%88%E5%90%8C%E6%A8%A3%E9%80%99%E4%BA%9B%20token%20%E8%B5%B0%E4%B8%80%E8%88%AC%E8%BC%B8%E5%85%A5%E8%A6%81%0A%20%20%20%20%20%20%20%20%5C%24%7B_c%5B2%5D%5B'hit'%5D%20%2F%20MTOK%20*%20BASE_IN%3A.2f%7D%EF%BC%89%E3%80%82%E8%80%8C%E4%B8%94%E7%AC%AC%202%E3%80%813%20%E8%BC%AA%E7%9A%84%E5%B0%8F%E8%A8%88%E5%B9%BE%E4%B9%8E%E4%B8%80%E6%A8%A3%E2%80%94%E2%80%94%0A%20%20%20%20%20%20%20%20**%E6%AF%8F%E8%BC%AA%E6%88%90%E6%9C%AC%E8%B6%A8%E6%96%BC%E5%9B%BA%E5%AE%9A**%EF%BC%8C%E9%80%99%E6%98%AF%E5%BF%AB%E5%8F%96%E6%9C%80%E8%88%92%E6%9C%8D%E7%9A%84%E5%9C%B0%E6%96%B9%EF%BC%9A%E8%81%8A%E5%BE%97%E5%86%8D%E4%B9%85%EF%BC%8C%E4%B8%8B%E4%B8%80%E8%BC%AA%E8%A6%81%E8%8A%B1%E5%A4%9A%E5%B0%91%E4%BD%A0%E9%83%BD%E7%8C%9C%E5%BE%97%E5%88%B0%E3%80%82%0A%20%20%20%20%20%20%20%20%22%22%22%0A%20%20%20%20)%0A%20%20%20%20return%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_(mo)%3A%0A%20%20%20%20mo.md(r%22%22%22%0A%20%20%20%20%23%23%203%EF%B8%8F%E2%83%A3%20%E6%8B%89%E6%A1%BF%EF%BC%9A%E4%BB%80%E9%BA%BC%E6%99%82%E5%80%99%E7%9C%81%E6%9C%80%E5%A4%9A%EF%BC%9F%0A%0A%20%20%20%20%E4%B8%89%E6%A0%B9%E6%8B%89%E6%A1%BF%EF%BC%8C%E9%A6%AC%E4%B8%8A%E7%9C%8B%E5%88%B0%E3%80%8C%E7%94%A8%E5%BF%AB%E5%8F%96%20vs%20%E4%B8%8D%E7%94%A8%E5%BF%AB%E5%8F%96%E3%80%8D%E7%9A%84%E7%B4%AF%E8%A8%88%E5%B8%B3%E5%96%AE%E6%80%8E%E9%BA%BC%E5%B2%94%E9%96%8B%E3%80%82%0A%20%20%20%20%E5%85%88%E7%8C%9C%E5%86%8D%E6%8B%89%EF%BC%8C%E7%9C%8B%E4%BD%A0%E7%9A%84%E7%9B%B4%E8%A6%BA%E6%BA%96%E4%B8%8D%E6%BA%96%EF%BC%9A%0A%0A%20%20%20%20-%20**%E7%B3%BB%E7%B5%B1%E6%8F%90%E7%A4%BA%E6%8B%89%E9%95%B7**%EF%BC%88%E5%B7%A5%E5%85%B7%E8%AA%AA%E6%98%8E%E6%9B%B8%E3%80%81%E5%B0%88%E6%A1%88%E8%A6%8F%E7%AF%84%E3%80%81%E9%95%B7%20prompt%EF%BC%89%E2%86%92%20%E7%9C%81%E6%9B%B4%E5%A4%9A%E9%82%84%E6%98%AF%E6%9B%B4%E5%B0%91%EF%BC%9F%0A%20%20%20%20-%20**%E8%BC%AA%E6%95%B8%E6%8B%89%E9%95%B7**%20%E2%86%92%20%E7%9C%81%E7%9A%84%E6%AF%94%E4%BE%8B%E6%9C%83%E5%81%9C%E5%9C%A8%E5%93%AA%EF%BC%9F%E6%8A%8A%E8%BC%AA%E6%95%B8%E6%8B%89%E5%88%B0%201%20%E5%91%A2%EF%BC%9F%0A%20%20%20%20-%20**%E5%9B%9E%E7%AD%94%E6%8B%89%E9%95%B7**%20%E2%86%92%20%E5%B0%8D%E3%80%8C%E7%9C%81%E7%9A%84%E6%AF%94%E4%BE%8B%E3%80%8D%E6%98%AF%E5%B9%AB%E5%BF%99%E9%82%84%E6%98%AF%E6%89%AF%E5%BE%8C%E8%85%BF%EF%BC%9F%0A%20%20%20%20%22%22%22)%0A%20%20%20%20return%0A%0A%0A%40app.cell%0Adef%20_(mo)%3A%0A%20%20%20%20sys_slider%20%3D%20mo.ui.slider(%0A%20%20%20%20%20%20%20%20start%3D0%2C%20stop%3D50%2C%20step%3D1%2C%20value%3D10%2C%20label%3D%22%E7%B3%BB%E7%B5%B1%E6%8F%90%E7%A4%BA%EF%BC%88K%20tokens%EF%BC%89%22%2C%20show_value%3DTrue%0A%20%20%20%20)%0A%20%20%20%20rounds_slider%20%3D%20mo.ui.slider(%0A%20%20%20%20%20%20%20%20start%3D1%2C%20stop%3D30%2C%20step%3D1%2C%20value%3D3%2C%20label%3D%22%E5%B0%8D%E8%A9%B1%E8%BC%AA%E6%95%B8%22%2C%20show_value%3DTrue%0A%20%20%20%20)%0A%20%20%20%20out_slider%20%3D%20mo.ui.slider(%0A%20%20%20%20%20%20%20%20start%3D1%2C%20stop%3D8%2C%20step%3D1%2C%20value%3D2%2C%20label%3D%22%E6%AF%8F%E8%BC%AA%E5%9B%9E%E7%AD%94%EF%BC%88K%20tokens%EF%BC%89%22%2C%20show_value%3DTrue%0A%20%20%20%20)%0A%20%20%20%20mo.vstack(%5Bsys_slider%2C%20rounds_slider%2C%20out_slider%5D)%0A%20%20%20%20return%20out_slider%2C%20rounds_slider%2C%20sys_slider%0A%0A%0A%40app.cell%0Adef%20_(np%2C%20out_slider%2C%20plt%2C%20rounds_slider%2C%20run_chat%2C%20sys_slider)%3A%0A%20%20%20%20sim_n%20%3D%20rounds_slider.value%0A%20%20%20%20sim_sys%20%3D%20sys_slider.value%20*%201000%0A%20%20%20%20sim_a%20%3D%20out_slider.value%20*%201000%0A%20%20%20%20sim_cached%20%3D%20run_chat(sim_n%2C%20sim_sys%2C%201_000%2C%20sim_a)%0A%20%20%20%20sim_plain%20%3D%20run_chat(sim_n%2C%20sim_sys%2C%201_000%2C%20sim_a%2C%20cached%3DFalse)%0A%0A%20%20%20%20_x%20%3D%20np.arange(1%2C%20sim_n%20%2B%201)%0A%20%20%20%20_cc%20%3D%20np.cumsum(%5Br%5B%22cost%22%5D%20for%20r%20in%20sim_cached%5D)%0A%20%20%20%20_pc%20%3D%20np.cumsum(%5Br%5B%22cost%22%5D%20for%20r%20in%20sim_plain%5D)%0A%20%20%20%20_fig%2C%20_axes%20%3D%20plt.subplots(1%2C%202%2C%20figsize%3D(9.6%2C%204.0))%0A%20%20%20%20_axes%5B0%5D.plot(_x%2C%20_pc%2C%20%22o-%22%2C%20c%3D%22%23C44E52%22%2C%20label%3D%22no%20cache%22)%0A%20%20%20%20_axes%5B0%5D.plot(_x%2C%20_cc%2C%20%22o-%22%2C%20c%3D%22%2355A868%22%2C%20label%3D%22with%20prompt%20caching%22)%0A%20%20%20%20_axes%5B0%5D.fill_between(_x%2C%20_cc%2C%20_pc%2C%20color%3D%22%2355A868%22%2C%20alpha%3D0.15)%0A%20%20%20%20_axes%5B0%5D.set_xlabel(%22conversation%20round%22)%0A%20%20%20%20_axes%5B0%5D.set_ylabel(%22cumulative%20cost%20(USD)%22)%0A%20%20%20%20_axes%5B0%5D.set_title(%0A%20%20%20%20%20%20%20%20f%22total%20%24%7B_pc%5B-1%5D%3A.3f%7D%20-%3E%20%24%7B_cc%5B-1%5D%3A.3f%7D%20%20%20(save%20%7B1%20-%20_cc%5B-1%5D%20%2F%20_pc%5B-1%5D%3A.0%25%7D)%22%0A%20%20%20%20)%0A%20%20%20%20_axes%5B0%5D.legend()%0A%20%20%20%20_axes%5B0%5D.grid(alpha%3D0.3)%0A%20%20%20%20_axes%5B1%5D.plot(_x%2C%20%5Br%5B%22cost%22%5D%20for%20r%20in%20sim_plain%5D%2C%20%22o-%22%2C%20c%3D%22%23C44E52%22%2C%20label%3D%22no%20cache%22)%0A%20%20%20%20_axes%5B1%5D.plot(%0A%20%20%20%20%20%20%20%20_x%2C%20%5Br%5B%22cost%22%5D%20for%20r%20in%20sim_cached%5D%2C%20%22o-%22%2C%20c%3D%22%2355A868%22%2C%20label%3D%22with%20prompt%20caching%22%0A%20%20%20%20)%0A%20%20%20%20_axes%5B1%5D.set_xlabel(%22conversation%20round%22)%0A%20%20%20%20_axes%5B1%5D.set_ylabel(%22cost%20of%20this%20round%20(USD)%22)%0A%20%20%20%20_axes%5B1%5D.set_title(%22per-round%20cost%3A%20rising%20vs.%20flat%22)%0A%20%20%20%20_axes%5B1%5D.set_ylim(bottom%3D0)%0A%20%20%20%20_axes%5B1%5D.legend()%0A%20%20%20%20_axes%5B1%5D.grid(alpha%3D0.3)%0A%20%20%20%20_fig.tight_layout()%0A%20%20%20%20_fig%0A%20%20%20%20return%20sim_a%2C%20sim_cached%2C%20sim_n%2C%20sim_plain%2C%20sim_sys%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_(OUTPUT%2C%20mo%2C%20sim_cached%2C%20sim_n%2C%20sim_plain%2C%20sim_sys%2C%20total)%3A%0A%20%20%20%20_c%2C%20_p%20%3D%20total(sim_cached)%2C%20total(sim_plain)%0A%20%20%20%20_verdict%20%3D%20(%0A%20%20%20%20%20%20%20%20f%22%E7%9C%81%20%7B1%20-%20_c%20%2F%20_p%3A.0%25%7D%22%0A%20%20%20%20%20%20%20%20if%20_c%20%3C%20_p%0A%20%20%20%20%20%20%20%20else%20f%22**%E5%8F%8D%E8%80%8C%E8%B2%B4%20%7B_c%20%2F%20_p%20-%201%3A.0%25%7D**%E2%80%94%E2%80%94%E5%8F%AA%E8%81%8A%E9%80%99%E9%BA%BC%E5%B9%BE%E8%BC%AA%E5%B0%B1%E7%B5%90%E6%9D%9F%EF%BC%8C%22%0A%20%20%20%20%20%20%20%20%22%E5%AF%AB%E5%85%A5%E7%9A%84%E6%BA%A2%E5%83%B9%E9%82%84%E6%B2%92%E8%A2%AB%E4%BB%BB%E4%BD%95%E4%B8%80%E6%AC%A1%E5%91%BD%E4%B8%AD%E8%B3%BA%E5%9B%9E%E4%BE%86%22%0A%20%20%20%20)%0A%20%20%20%20mo.md(%0A%20%20%20%20%20%20%20%20rf%22%22%22%0A%20%20%20%20%E7%B3%BB%E7%B5%B1%E6%8F%90%E7%A4%BA%20%7Bsim_sys%20%2F%2F%201000%7DK%E3%80%81%E8%81%8A%20%7Bsim_n%7D%20%E8%BC%AA%EF%BC%9A%E4%B8%8D%E7%94%A8%E5%BF%AB%E5%8F%96%20%5C%24%7B_p%3A.3f%7D%E3%80%81%E7%94%A8%E5%BF%AB%E5%8F%96%20%5C%24%7B_c%3A.3f%7D%20%E2%86%92%20%7B_verdict%7D%E3%80%82%0A%0A%20%20%20%20%E4%B8%89%E5%80%8B%E6%96%B9%E5%90%91%E8%87%AA%E5%B7%B1%E6%8B%89%E4%B8%80%E6%AC%A1%E5%B0%B1%E8%A8%98%E5%BE%97%E4%BD%8F%EF%BC%9A**%E7%B3%BB%E7%B5%B1%E6%8F%90%E7%A4%BA%E8%B6%8A%E9%95%B7%E3%80%81%E8%BC%AA%E6%95%B8%E8%B6%8A%E5%A4%9A%EF%BC%8C%E7%9C%81%E5%BE%97%E8%B6%8A%E5%85%87**%0A%20%20%20%20%EF%BC%88%E9%95%B7%E5%89%8D%E7%B6%B4%E6%AF%8F%E8%BC%AA%E9%83%BD%E8%A6%81%E8%A2%AB%E9%87%8D%E6%96%B0%E8%A8%88%E5%83%B9%E4%B8%80%E6%AC%A1%EF%BC%8C%E5%BF%AB%E5%8F%96%E5%B0%B1%E6%98%AF%E5%B0%88%E9%96%80%E5%90%83%E9%80%99%E7%A8%AE%E9%87%8D%E8%A4%87%EF%BC%89%EF%BC%9B%0A%20%20%20%20**%E5%9B%9E%E7%AD%94%E6%8B%89%E9%95%B7%E5%8F%8D%E8%80%8C%E8%AE%93%E6%AF%94%E4%BE%8B%E7%B8%AE%E6%B0%B4**%EF%BC%8C%E5%9B%A0%E7%82%BA%E8%BC%B8%E5%87%BA%E9%82%A3%20%5C%24%7BOUTPUT%3A.0f%7D%2FMTok%20%E4%B8%8D%E5%8F%97%E5%BF%AB%E5%8F%96%E5%BD%B1%E9%9F%BF%E2%80%94%E2%80%94%0A%20%20%20%20%E5%BF%AB%E5%8F%96%E7%9C%81%E7%9A%84%E6%98%AF%20input%EF%BC%8C%E4%B8%8D%E6%98%AF%20output%E3%80%82%0A%20%20%20%20%22%22%22%0A%20%20%20%20)%0A%20%20%20%20return%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_(mo)%3A%0A%20%20%20%20mo.md(r%22%22%22%0A%20%20%20%20%23%23%204%EF%B8%8F%E2%83%A3%20%E9%8C%A2%E5%88%B0%E5%BA%95%E8%8A%B1%E5%9C%A8%E5%93%AA%EF%BC%9Atoken%20%E5%BE%88%E5%A4%9A%EF%BC%8C%E9%8C%A2%E5%BE%88%E5%B0%91%0A%0A%20%20%20%20%E4%B8%8A%E9%9D%A2%E7%9C%8B%E7%9A%84%E6%98%AF%E7%B8%BD%E9%A1%8D%EF%BC%8C%E9%80%99%E8%A3%A1%E6%8A%8A%E5%AE%83%E6%8B%86%E9%96%8B%E3%80%82%E5%B7%A6%E5%9C%96%E6%98%AF%E6%AF%8F%E8%BC%AA%E7%9A%84%20**input%20token%20%E6%95%B8%E9%87%8F**%EF%BC%8C%0A%20%20%20%20%E5%8F%B3%E5%9C%96%E6%98%AF%E6%AF%8F%E8%BC%AA%E7%9A%84**%E8%8A%B1%E8%B2%BB**%E2%80%94%E2%80%94%E5%90%8C%E4%B8%80%E6%AE%B5%E5%B0%8D%E8%A9%B1%EF%BC%8C%E5%85%A9%E5%BC%B5%E5%9C%96%E7%9A%84%E5%BD%A2%E7%8B%80%E5%AE%8C%E5%85%A8%E4%B8%8D%E4%B8%80%E6%A8%A3%EF%BC%9A%0A%0A%20%20%20%20%E5%B7%A6%E9%82%8A%E7%9A%84%E7%B6%A0%E8%89%B2%EF%BC%88%E5%B7%B2%E5%BF%AB%E5%8F%96%E7%9A%84%E6%AD%B7%E5%8F%B2%EF%BC%89%E8%B6%8A%E7%96%8A%E8%B6%8A%E9%AB%98%EF%BC%8C%E5%8F%B3%E9%82%8A%E5%8D%BB%E5%B9%BE%E4%B9%8E%E8%B2%BC%E5%9C%A8%E5%9C%B0%E4%B8%8A%E3%80%82%0A%20%20%20%20%E9%80%99%E5%B0%B1%E6%98%AF%E6%9C%AC%E8%AA%B2%E7%9A%84%E6%A0%B8%E5%BF%83%EF%BC%9A**%E8%88%8A%E6%AD%B7%E5%8F%B2%E4%BD%94%E6%8E%89%E7%B5%95%E5%A4%A7%E5%A4%9A%E6%95%B8%20token%EF%BC%8C%E5%8D%BB%E5%8F%AA%E4%BD%94%E4%B8%80%E9%BB%9E%E9%BB%9E%E9%8C%A2**%E3%80%82%0A%20%20%20%20%E8%81%8A%E5%88%B0%E5%BE%8C%E9%9D%A2%EF%BC%8C%E5%B8%B3%E5%96%AE%E7%9A%84%E4%B8%BB%E8%A7%92%E6%9C%83%E8%AE%8A%E6%88%90%E8%97%8D%E8%89%B2%E7%9A%84%E8%BC%B8%E5%87%BA%E3%80%82%0A%20%20%20%20%22%22%22)%0A%20%20%20%20return%0A%0A%0A%40app.cell%0Adef%20_(CACHE_HIT%2C%20MTOK%2C%20OUTPUT%2C%20WRITE_5M%2C%20np%2C%20plt%2C%20sim_a%2C%20sim_cached)%3A%0A%20%20%20%20_x%20%3D%20np.arange(1%2C%20len(sim_cached)%20%2B%201)%0A%20%20%20%20_hit_t%20%3D%20np.array(%5Br%5B%22hit%22%5D%20for%20r%20in%20sim_cached%5D)%20%2F%201000.0%0A%20%20%20%20_wr_t%20%3D%20np.array(%5Br%5B%22write%22%5D%20for%20r%20in%20sim_cached%5D)%20%2F%201000.0%0A%20%20%20%20_hit_c%20%3D%20np.array(%5Br%5B%22hit%22%5D%20for%20r%20in%20sim_cached%5D)%20%2F%20MTOK%20*%20CACHE_HIT%0A%20%20%20%20_wr_c%20%3D%20np.array(%5Br%5B%22write%22%5D%20for%20r%20in%20sim_cached%5D)%20%2F%20MTOK%20*%20WRITE_5M%0A%20%20%20%20_out_c%20%3D%20np.full(len(sim_cached)%2C%20sim_a%20%2F%20MTOK%20*%20OUTPUT)%0A%20%20%20%20_fig%2C%20_axes%20%3D%20plt.subplots(1%2C%202%2C%20figsize%3D(9.6%2C%204.0))%0A%20%20%20%20_axes%5B0%5D.bar(_x%2C%20_hit_t%2C%20color%3D%22%2355A868%22%2C%20label%3D%22cached%20history%20(hit)%22)%0A%20%20%20%20_axes%5B0%5D.bar(_x%2C%20_wr_t%2C%20bottom%3D_hit_t%2C%20color%3D%22%23DD8452%22%2C%20label%3D%22new%20content%20(write)%22)%0A%20%20%20%20_axes%5B0%5D.set_xlabel(%22conversation%20round%22)%0A%20%20%20%20_axes%5B0%5D.set_ylabel(%22input%20tokens%20(K)%22)%0A%20%20%20%20_axes%5B0%5D.set_title(%22input%20tokens%3A%20the%20history%20keeps%20growing%22)%0A%20%20%20%20_axes%5B0%5D.legend(fontsize%3D8)%0A%20%20%20%20_axes%5B0%5D.grid(alpha%3D0.3%2C%20axis%3D%22y%22)%0A%20%20%20%20_axes%5B1%5D.bar(_x%2C%20_hit_c%2C%20color%3D%22%2355A868%22%2C%20label%3D%22hit%22)%0A%20%20%20%20_axes%5B1%5D.bar(_x%2C%20_wr_c%2C%20bottom%3D_hit_c%2C%20color%3D%22%23DD8452%22%2C%20label%3D%22write%22)%0A%20%20%20%20_axes%5B1%5D.bar(_x%2C%20_out_c%2C%20bottom%3D_hit_c%20%2B%20_wr_c%2C%20color%3D%22%234C72B0%22%2C%20label%3D%22output%22)%0A%20%20%20%20_axes%5B1%5D.set_xlabel(%22conversation%20round%22)%0A%20%20%20%20_axes%5B1%5D.set_ylabel(%22cost%20of%20this%20round%20(USD)%22)%0A%20%20%20%20_axes%5B1%5D.set_title(%22cost%3A%20the%20history%20is%20almost%20free%22)%0A%20%20%20%20_axes%5B1%5D.legend(fontsize%3D8)%0A%20%20%20%20_axes%5B1%5D.grid(alpha%3D0.3%2C%20axis%3D%22y%22)%0A%20%20%20%20_fig.tight_layout()%0A%20%20%20%20_fig%0A%20%20%20%20return%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_(mo)%3A%0A%20%20%20%20mo.md(r%22%22%22%0A%20%20%20%20%23%23%205%EF%B8%8F%E2%83%A3%20%E7%9C%9F%E6%AD%A3%E8%B2%B4%E7%9A%84%E6%98%AF%E3%80%8C%E8%AE%93%E5%89%8D%E7%B6%B4%E6%94%B9%E8%AE%8A%E3%80%8D%0A%0A%20%20%20%20%E5%BF%AB%E5%8F%96%E7%B6%81%E5%9C%A8**%E4%B8%80%E6%A8%A1%E4%B8%80%E6%A8%A3%E7%9A%84%E5%89%8D%E7%B6%B4**%E4%B8%8A%E3%80%82%E5%89%8D%E7%B6%B4%E4%B8%80%E6%94%B9%EF%BC%8C%E5%BE%8C%E9%9D%A2%E5%85%A8%E9%83%A8%E4%BD%9C%E5%BB%A2%EF%BC%8C%E4%B8%8B%E4%B8%80%E8%BC%AA%E8%A6%81%E6%95%B4%E6%AE%B5%E9%87%8D%E6%96%B0%E5%AF%AB%E5%85%A5%E3%80%82%0A%20%20%20%20%E4%B8%89%E4%BB%B6%E4%BA%8B%E6%9C%83%E6%94%B9%E5%88%B0%E5%89%8D%E7%B6%B4%EF%BC%8C%E8%80%8C%E5%AE%83%E5%80%91%E5%9C%A8%E5%B8%B3%E5%96%AE%E4%B8%8A%E7%9A%84%E6%95%88%E6%9E%9C**%E5%AE%8C%E5%85%A8%E4%B8%80%E6%A8%A3**%EF%BC%9A%0A%0A%20%20%20%20-%20**%E4%B8%AD%E9%80%94%E6%8F%9B%E6%A8%A1%E5%9E%8B**%EF%BC%9A%E5%BF%AB%E5%8F%96%E8%B7%9F%E6%A8%A1%E5%9E%8B%E7%B6%81%E5%AE%9A%EF%BC%8C%E6%8F%9B%E4%B8%80%E6%AC%A1%EF%BC%9D%E6%95%B4%E6%AE%B5%E9%87%8D%E8%AE%80%0A%20%20%20%20-%20**%E5%B0%8D%E8%A9%B1%E4%B8%AD%E5%A2%9E%E6%B8%9B%E5%B7%A5%E5%85%B7%20%2F%20MCP**%EF%BC%9A%E5%B7%A5%E5%85%B7%E5%AE%9A%E7%BE%A9%E4%BD%8F%E5%9C%A8%E7%B3%BB%E7%B5%B1%E6%8F%90%E7%A4%BA%E5%B1%A4%EF%BC%8C%E4%B8%80%E8%AE%8A%E5%89%8D%E7%B6%B4%E5%B0%B1%E6%8F%9B%E4%BA%86%EF%BC%88%E8%80%8C%E4%B8%94%E9%82%84%E8%AE%8A%E9%95%B7%EF%BC%89%0A%20%20%20%20-%20**%E9%96%92%E7%BD%AE%E8%B6%85%E9%81%8E%20TTL**%EF%BC%9A%E6%B2%92%E4%BA%BA%E5%8B%95%E5%AE%83%EF%BC%8C%E4%BD%86%E5%BF%AB%E5%8F%96%E8%87%AA%E5%B7%B1%E9%81%8E%E6%9C%9F%E4%BA%86%0A%0A%20%20%20%20%E5%B7%AE%E5%88%A5%E4%B8%8D%E5%9C%A8%E5%96%AE%E6%AC%A1%E4%BB%A3%E5%83%B9%EF%BC%8C%E5%9C%A8**%E4%BD%A0%E6%8E%A7%E4%B8%8D%E6%8E%A7%E5%88%B6%E5%BE%97%E4%BA%86%E3%80%81%E6%9C%83%E7%99%BC%E7%94%9F%E5%B9%BE%E6%AC%A1**%E3%80%82%0A%20%20%20%20%E4%B8%8B%E9%9D%A2%E9%81%B8%E4%B8%80%E7%A8%AE%E6%83%85%E6%B3%81%EF%BC%8C%E8%B7%9F%E3%80%8C%E4%B9%96%E4%B9%96%E8%81%8A%E5%88%B0%E5%BA%95%E3%80%8D%E5%92%8C%E3%80%8C%E5%AE%8C%E5%85%A8%E4%B8%8D%E7%94%A8%E5%BF%AB%E5%8F%96%E3%80%8D%E6%93%BA%E5%9C%A8%E4%B8%80%E8%B5%B7%E6%AF%94%EF%BC%9A%0A%20%20%20%20%22%22%22)%0A%20%20%20%20return%0A%0A%0A%40app.cell%0Adef%20_(mo)%3A%0A%20%20%20%20break_kind%20%3D%20mo.ui.dropdown(%0A%20%20%20%20%20%20%20%20options%3D%7B%0A%20%20%20%20%20%20%20%20%20%20%20%20%22%E5%8F%AA%E7%99%BC%E7%94%9F%E4%B8%80%E6%AC%A1%EF%BC%88%E6%8F%9B%E6%A8%A1%E5%9E%8B%EF%BC%8FTTL%20%E9%81%8E%E6%9C%9F%EF%BC%89%22%3A%20%22once%22%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20%22%E4%B8%AD%E9%80%94%E5%8A%A0%E4%B8%80%E5%80%8B%E5%B7%A5%E5%85%B7%EF%BC%88%E7%B3%BB%E7%B5%B1%E6%8F%90%E7%A4%BA%20%2B2K%EF%BC%89%22%3A%20%22tool%22%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20%22%E6%AF%8F%E8%BC%AA%E9%83%BD%E6%8F%9B%E6%A8%A1%E5%9E%8B%E6%AF%94%E8%BC%83%E7%AD%94%E6%A1%88%22%3A%20%22every%22%2C%0A%20%20%20%20%20%20%20%20%7D%2C%0A%20%20%20%20%20%20%20%20value%3D%22%E5%8F%AA%E7%99%BC%E7%94%9F%E4%B8%80%E6%AC%A1%EF%BC%88%E6%8F%9B%E6%A8%A1%E5%9E%8B%EF%BC%8FTTL%20%E9%81%8E%E6%9C%9F%EF%BC%89%22%2C%0A%20%20%20%20%20%20%20%20label%3D%22%E9%80%99%E6%AE%B5%E5%B0%8D%E8%A9%B1%E7%99%BC%E7%94%9F%E4%BA%86%E4%BB%80%E9%BA%BC%22%2C%0A%20%20%20%20)%0A%20%20%20%20break_at%20%3D%20mo.ui.slider(%0A%20%20%20%20%20%20%20%20start%3D2%2C%20stop%3D11%2C%20step%3D1%2C%20value%3D4%2C%20label%3D%22%E7%99%BC%E7%94%9F%E5%9C%A8%E7%AC%AC%E5%B9%BE%E8%BC%AA%22%2C%20show_value%3DTrue%0A%20%20%20%20)%0A%20%20%20%20mo.vstack(%5Bbreak_kind%2C%20break_at%5D)%0A%20%20%20%20return%20break_at%2C%20break_kind%0A%0A%0A%40app.cell%0Adef%20_(break_at%2C%20break_kind%2C%20np%2C%20plt%2C%20run_chat)%3A%0A%20%20%20%20BREAK_N%20%3D%2012%20%20%23%20%E9%80%99%E4%B8%80%E7%AF%80%E5%9B%BA%E5%AE%9A%EF%BC%9A%E8%81%8A%2012%20%E8%BC%AA%E3%80%81%E7%B3%BB%E7%B5%B1%E6%8F%90%E7%A4%BA%2010K%E3%80%81%E6%AF%8F%E8%BC%AA%E5%95%8F%201K%20%E7%AD%94%202K%0A%20%20%20%20_k%20%3D%20min(break_at.value%2C%20BREAK_N)%0A%20%20%20%20if%20break_kind.value%20%3D%3D%20%22every%22%3A%0A%20%20%20%20%20%20%20%20_breaks%20%3D%20%7Bi%3A%200%20for%20i%20in%20range(2%2C%20BREAK_N%20%2B%201)%7D%0A%20%20%20%20%20%20%20%20_label%20%3D%20%22switch%20model%20every%20round%22%0A%20%20%20%20elif%20break_kind.value%20%3D%3D%20%22tool%22%3A%0A%20%20%20%20%20%20%20%20_breaks%20%3D%20%7B_k%3A%202_000%7D%0A%20%20%20%20%20%20%20%20_label%20%3D%20f%22add%20a%20tool%20at%20round%20%7B_k%7D%22%0A%20%20%20%20else%3A%0A%20%20%20%20%20%20%20%20_breaks%20%3D%20%7B_k%3A%200%7D%0A%20%20%20%20%20%20%20%20_label%20%3D%20f%22prefix%20broken%20at%20round%20%7B_k%7D%22%0A%0A%20%20%20%20good%20%3D%20run_chat(BREAK_N%2C%2010_000%2C%201_000%2C%202_000)%0A%20%20%20%20broken%20%3D%20run_chat(BREAK_N%2C%2010_000%2C%201_000%2C%202_000%2C%20breaks%3D_breaks)%0A%20%20%20%20nocache%20%3D%20run_chat(BREAK_N%2C%2010_000%2C%201_000%2C%202_000%2C%20cached%3DFalse)%0A%0A%20%20%20%20_x%20%3D%20np.arange(1%2C%20BREAK_N%20%2B%201)%0A%20%20%20%20_fig%2C%20_ax%20%3D%20plt.subplots(figsize%3D(8.6%2C%204.4))%0A%20%20%20%20_ax.plot(_x%2C%20np.cumsum(%5Br%5B%22cost%22%5D%20for%20r%20in%20nocache%5D)%2C%20%22o-%22%2C%20c%3D%22%23C44E52%22%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20%20label%3D%22no%20cache%20at%20all%22)%0A%20%20%20%20_ax.plot(_x%2C%20np.cumsum(%5Br%5B%22cost%22%5D%20for%20r%20in%20broken%5D)%2C%20%22o-%22%2C%20c%3D%22%23DD8452%22%2C%20label%3D_label)%0A%20%20%20%20_ax.plot(_x%2C%20np.cumsum(%5Br%5B%22cost%22%5D%20for%20r%20in%20good%5D)%2C%20%22o-%22%2C%20c%3D%22%2355A868%22%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20%20label%3D%22never%20touch%20the%20prefix%22)%0A%20%20%20%20_ax.set_xlabel(%22conversation%20round%22)%0A%20%20%20%20_ax.set_ylabel(%22cumulative%20cost%20(USD)%22)%0A%20%20%20%20_ax.set_title(%2212%20rounds%2C%2010K%20system%20prompt%22)%0A%20%20%20%20_ax.legend()%0A%20%20%20%20_ax.grid(alpha%3D0.3)%0A%20%20%20%20_fig.tight_layout()%0A%20%20%20%20_fig%0A%20%20%20%20return%20broken%2C%20good%2C%20nocache%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_(broken%2C%20good%2C%20mo%2C%20nocache%2C%20total)%3A%0A%20%20%20%20_d%20%3D%20total(broken)%20-%20total(good)%0A%20%20%20%20_vs%20%3D%20(%0A%20%20%20%20%20%20%20%20rf%22%E6%AF%94**%E5%AE%8C%E5%85%A8%E4%B8%8D%E7%94%A8%E5%BF%AB%E5%8F%96**%EF%BC%88%5C%24%7Btotal(nocache)%3A.3f%7D%EF%BC%89%E9%82%84%E8%B2%B4%20%22%0A%20%20%20%20%20%20%20%20rf%22%7Btotal(broken)%20%2F%20total(nocache)%20-%201%3A.0%25%7D%22%0A%20%20%20%20%20%20%20%20if%20total(broken)%20%3E%20total(nocache)%0A%20%20%20%20%20%20%20%20else%20rf%22%E4%BB%8D%E6%AF%94%E5%AE%8C%E5%85%A8%E4%B8%8D%E7%94%A8%E5%BF%AB%E5%8F%96%EF%BC%88%5C%24%7Btotal(nocache)%3A.3f%7D%EF%BC%89%E4%BE%BF%E5%AE%9C%22%0A%20%20%20%20)%0A%20%20%20%20mo.md(%0A%20%20%20%20%20%20%20%20rf%22%22%22%0A%20%20%20%20%E4%B9%96%E4%B9%96%E8%81%8A%E5%88%B0%E5%BA%95%20**%5C%24%7Btotal(good)%3A.3f%7D**%20%E2%86%92%20%E9%80%99%E5%80%8B%E6%83%85%E6%B3%81%20**%5C%24%7Btotal(broken)%3A.3f%7D**%EF%BC%88%E5%A4%9A%E4%BB%98%20%5C%24%7B_d%3A.3f%7D%EF%BC%89%EF%BC%8C%7B_vs%7D%E3%80%82%0A%0A%20%20%20%20%E6%8A%8A%E9%81%B8%E5%96%AE%E5%88%87%E5%88%B0%E3%80%8C**%E6%AF%8F%E8%BC%AA%E9%83%BD%E6%8F%9B%E6%A8%A1%E5%9E%8B%E6%AF%94%E8%BC%83%E7%AD%94%E6%A1%88**%E3%80%8D%E7%9C%8B%E4%B8%80%E6%AC%A1%EF%BC%9A%E6%A9%98%E7%B7%9A%E6%9C%83%E7%88%AC%E5%88%B0%E7%B4%85%E7%B7%9A**%E4%B8%8A%E9%9D%A2**%E5%8E%BB%E3%80%82%0A%20%20%20%20%E5%8E%9F%E5%9B%A0%E5%BE%88%E5%96%AE%E7%B4%94%E2%80%94%E2%80%94%E6%AF%8F%E8%BC%AA%E9%83%BD%E5%A4%B1%E6%95%88%E7%9A%84%E8%A9%B1%EF%BC%8C%E4%BD%A0%E6%AF%8F%E4%B8%80%E8%BC%AA%E9%83%BD%E5%9C%A8%E4%BB%98%E6%AF%94%E4%B8%80%E8%88%AC%E8%BC%B8%E5%85%A5%E9%82%84%E8%B2%B4%2025%25%20%E7%9A%84%E5%AF%AB%E5%85%A5%E5%83%B9%EF%BC%8C%0A%20%20%20%20%E5%8D%BB%E4%B8%80%E6%AC%A1%E5%91%BD%E4%B8%AD%E9%83%BD%E6%B2%92%E5%90%83%E5%88%B0%E3%80%82%E9%80%99%E5%B0%B1%E6%98%AF%E3%80%8C%E6%8F%9B%E4%BE%86%E6%8F%9B%E5%8E%BB%E6%AF%94%E4%B8%8D%E7%94%A8%E5%BF%AB%E5%8F%96%E9%82%84%E8%B2%B4%E3%80%8D%E7%9A%84%E7%AE%97%E5%BC%8F%E7%89%88%E6%9C%AC%E3%80%82%0A%0A%20%20%20%20%E7%9B%B8%E5%B0%8D%E5%9C%B0%EF%BC%8C%E3%80%8C%E5%8F%AA%E7%99%BC%E7%94%9F%E4%B8%80%E6%AC%A1%E3%80%8D%E7%9A%84%E4%BB%A3%E5%83%B9%E6%98%AF**%E4%B8%80%E6%AC%A1%E6%80%A7**%E7%9A%84%EF%BC%9A%E5%A4%9A%E4%BB%98%E9%82%A3%E4%B8%80%E7%AD%86%E4%B9%8B%E5%BE%8C%EF%BC%8C%0A%20%20%20%20%E6%9B%B2%E7%B7%9A%E7%9A%84%E6%96%9C%E7%8E%87%E5%B0%B1%E8%B7%9F%E7%B6%A0%E7%B7%9A%E5%B9%B3%E8%A1%8C%E4%BA%86%E3%80%82%E9%96%92%E7%BD%AE%E9%81%8E%E6%9C%9F%E6%B2%92%E9%82%A3%E9%BA%BC%E5%8F%AF%E6%80%95%EF%BC%8C%E5%8F%8D%E8%A6%86%E6%94%B9%E5%89%8D%E7%B6%B4%E6%89%8D%E5%8F%AF%E6%80%95%E3%80%82%0A%20%20%20%20%22%22%22%0A%20%20%20%20)%0A%20%20%20%20return%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_(mo)%3A%0A%20%20%20%20mo.md(r%22%22%22%0A%20%20%20%20%23%23%206%EF%B8%8F%E2%83%A3%20%E4%BD%A0%E7%9A%84%E5%AF%A6%E9%A9%97%E5%8D%80%0A%0A%20%20%20%20%E4%B8%8B%E9%9D%A2%E9%80%99%E6%A0%BC%E6%98%AF%E4%BD%A0%E7%9A%84%EF%BC%8C%E6%94%B9%E5%AE%8C%E6%8C%89%20%E2%96%B6%20%E9%87%8D%E8%B7%91%E3%80%82%E5%BB%BA%E8%AD%B0%E6%8C%91%E6%88%B0%EF%BC%88%E7%94%B1%E6%98%93%E5%88%B0%E9%9B%A3%EF%BC%89%EF%BC%9A%0A%0A%20%20%20%201.%20**LEVEL%201**%EF%BC%9A%E6%8A%8A%20%60my_write%60%20%E6%94%B9%E6%88%90%20%60WRITE_1H%60%EF%BC%881%20%E5%B0%8F%E6%99%82%20TTL%EF%BC%8C%5C%2420%2FMTok%EF%BC%89%EF%BC%8C%0A%20%20%20%20%20%20%20%E7%9C%8B%E4%B8%89%E8%BC%AA%E7%B8%BD%E5%83%B9%E8%AE%8A%E5%A4%9A%E5%B0%91%E3%80%81%E9%82%84%E7%9C%81%E4%B8%8D%E7%9C%81%E3%80%82%E9%95%B7%20TTL%20%E6%98%AF%E5%85%8D%E8%B2%BB%E7%9A%84%E5%97%8E%EF%BC%9F%0A%20%20%20%202.%20**LEVEL%202**%EF%BC%9A%E6%8A%8A%20%60my_sys%60%20%E5%BE%9E%2010K%20%E6%94%B9%E6%88%90%202K%EF%BC%8C%E5%86%8D%E6%94%B9%E6%88%90%2040K%EF%BC%8C%E5%90%84%E8%B7%91%203%20%E8%BC%AA%E8%88%87%2020%20%E8%BC%AA%E3%80%82%0A%20%20%20%20%20%20%20%E3%80%8C%E7%9C%81%E7%9A%84%E6%AF%94%E4%BE%8B%E3%80%8D%E5%B0%8D%E5%93%AA%E5%80%8B%E5%8F%83%E6%95%B8%E6%AF%94%E8%BC%83%E6%95%8F%E6%84%9F%E2%80%94%E2%80%94%E7%B3%BB%E7%B5%B1%E6%8F%90%E7%A4%BA%E9%95%B7%E5%BA%A6%EF%BC%8C%E9%82%84%E6%98%AF%E8%BC%AA%E6%95%B8%EF%BC%9F%0A%20%20%20%203.%20**LEVEL%203**%EF%BC%9A%E4%BC%B0%E4%B8%80%E6%AC%A1%E4%BD%A0%E8%87%AA%E5%B7%B1%E7%9A%84%E7%94%A8%E9%87%8F%E2%80%94%E2%80%94%E4%BD%A0%E5%B9%B3%E5%B8%B8%E4%B8%80%E5%80%8B%E5%B7%A5%E4%BD%9C%E9%9A%8E%E6%AE%B5%E5%A4%A7%E6%A6%82%E8%81%8A%E5%B9%BE%E8%BC%AA%E3%80%81%0A%20%20%20%20%20%20%20%E7%B3%BB%E7%B5%B1%E6%8F%90%E7%A4%BA%EF%BC%88%E5%90%AB%E5%B7%A5%E5%85%B7%E8%AA%AA%E6%98%8E%EF%BC%89%E5%A4%9A%E9%95%B7%EF%BC%9F%E7%94%A8%20%60breaks%3D%60%20%E7%AE%97%E5%87%BA%E3%80%8C%E4%B9%96%E4%B9%96%E8%81%8A%E5%AE%8C%E3%80%8D%E8%88%87%0A%20%20%20%20%20%20%20%E3%80%8C%E4%B8%AD%E9%96%93%E6%8F%9B%E5%85%A9%E6%AC%A1%E6%A8%A1%E5%9E%8B%E3%80%8D%E7%9A%84%E5%B7%AE%E9%A1%8D%EF%BC%8C%E4%B8%A6%E4%B8%94%E8%AA%AA%E5%BE%97%E5%87%BA%E9%82%A3%E7%AD%86%E5%B7%AE%E9%A1%8D%E6%98%AF%E6%80%8E%E9%BA%BC%E4%BE%86%E7%9A%84%E3%80%82%0A%0A%20%20%20%20%E5%81%9A%E5%AE%8C%E8%A8%98%E5%BE%97%EF%BC%9A**%E9%BB%9E%E5%B7%A6%E5%81%B4%E6%95%99%E5%AD%B8%E9%A0%81%E7%9A%84%E3%80%8C%E4%B8%8B%E8%BC%89%20.py%E3%80%8D%E6%8A%8A%E4%BD%A0%E7%9A%84%E7%89%88%E6%9C%AC%E5%B8%B6%E8%B5%B0**%EF%BC%8C%0A%20%20%20%20%E5%9C%A8%E8%87%AA%E5%B7%B1%E9%9B%BB%E8%85%A6%E7%94%A8%20%60uvx%20marimo%20edit%20lesson.py%60%20%E5%B0%B1%E8%83%BD%E7%B9%BC%E7%BA%8C%E7%8E%A9%E3%80%82%0A%20%20%20%20%22%22%22)%0A%20%20%20%20return%0A%0A%0A%40app.cell%0Adef%20_(WRITE_1H%2C%20WRITE_5M%2C%20run_chat%2C%20total)%3A%0A%20%20%20%20%23%20%3D%3D%3D%3D%3D%20%E4%BD%A0%E7%9A%84%E5%AF%A6%E9%A9%97%E5%8D%80%20%3D%3D%3D%3D%3D%0A%20%20%20%20my_sys%20%3D%2010_000%20%20%20%20%20%20%20%23%20%E7%B3%BB%E7%B5%B1%E6%8F%90%E7%A4%BA%E9%95%B7%E5%BA%A6%0A%20%20%20%20my_rounds%20%3D%203%20%20%20%20%20%20%20%20%20%23%20%E8%81%8A%E5%B9%BE%E8%BC%AA%0A%20%20%20%20my_write%20%3D%20WRITE_5M%20%20%20%23%20%E6%83%B3%E8%A9%A6%201%20%E5%B0%8F%E6%99%82%20TTL%20%E5%B0%B1%E6%94%B9%E6%88%90%20WRITE_1H%0A%0A%20%20%20%20my_cached%20%3D%20run_chat(my_rounds%2C%20my_sys%2C%201_000%2C%202_000%2C%20write_rate%3Dmy_write)%0A%20%20%20%20my_plain%20%3D%20run_chat(my_rounds%2C%20my_sys%2C%201_000%2C%202_000%2C%20cached%3DFalse)%0A%20%20%20%20for%20_r%20in%20my_cached%3A%0A%20%20%20%20%20%20%20%20print(f%22%E7%AC%AC%20%7B_r%5B'round'%5D%7D%20%E8%BC%AA%EF%BC%9A%E5%91%BD%E4%B8%AD%20%7B_r%5B'hit'%5D%3A%3E6%7D%20%2F%20%E5%AF%AB%E5%85%A5%20%7B_r%5B'write'%5D%3A%3E6%7D%20%E2%86%92%20%24%7B_r%5B'cost'%5D%3A.4f%7D%22)%0A%20%20%20%20print(f%22%5Cn%7Bmy_rounds%7D%20%E8%BC%AA%E7%B8%BD%E8%A8%88%EF%BC%9A%E7%94%A8%E5%BF%AB%E5%8F%96%20%24%7Btotal(my_cached)%3A.4f%7D%E3%80%81%22%0A%20%20%20%20%20%20%20%20%20%20f%22%E4%B8%8D%E7%94%A8%E5%BF%AB%E5%8F%96%20%24%7Btotal(my_plain)%3A.4f%7D%20%E2%86%92%20%E7%9C%81%20%7B1%20-%20total(my_cached)%20%2F%20total(my_plain)%3A.1%25%7D%22)%0A%20%20%20%20print(f%22%EF%BC%88%E7%9B%AE%E5%89%8D%E5%AF%AB%E5%85%A5%E5%83%B9%20%24%7Bmy_write%3A.2f%7D%2FMTok%EF%BC%9B1%20%E5%B0%8F%E6%99%82%20TTL%20%E6%98%AF%20%24%7BWRITE_1H%3A.2f%7D%2FMTok%EF%BC%89%22)%0A%20%20%20%20return%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_(mo)%3A%0A%20%20%20%20mo.accordion(%0A%20%20%20%20%20%20%20%20%7B%0A%20%20%20%20%20%20%20%20%20%20%20%20%22%F0%9F%92%A1%20LEVEL%201%20%E5%8F%83%E8%80%83%E8%A7%A3%E7%AD%94%22%3A%20mo.md(%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20r%22%22%22%0A%20%20%20%20%60%60%60python%0A%20%20%20%20my_write%20%3D%20WRITE_1H%20%20%20%23%2020.0%0A%20%20%20%20%60%60%60%0A%0A%20%20%20%20%E4%B8%89%E8%BC%AA%E7%B8%BD%E8%A8%88%E5%BE%9E%20**%5C%240.4915%20%E8%AE%8A%E6%88%90%20%5C%240.5890**%EF%BC%8C%E7%9C%81%E7%9A%84%E6%AF%94%E4%BE%8B%E5%BE%9E%2032%25%20%E6%8E%89%E5%88%B0%20**18%25**%E3%80%82%0A%0A%20%20%20%20%E9%95%B7%20TTL%20%E4%B8%8D%E6%98%AF%E5%85%8D%E8%B2%BB%E7%9A%84%EF%BC%9A%E5%AF%AB%E5%85%A5%E5%96%AE%E5%83%B9%E8%AE%8A%E6%88%90%E4%B8%80%E8%88%AC%E8%BC%B8%E5%85%A5%E7%9A%84%202%20%E5%80%8D%EF%BC%8C%E7%AD%89%E6%96%BC%E9%A0%90%E4%BB%98%E4%B8%80%E7%AD%86%E3%80%8C%E4%BF%9D%E7%95%99%E8%B2%BB%E3%80%8D%E3%80%82%0A%20%20%20%20%E4%BB%80%E9%BA%BC%E6%99%82%E5%80%99%E5%88%92%E7%AE%97%EF%BC%9F%E7%95%B6%E4%BD%A0**%E9%9B%A2%E9%96%8B%E8%B6%85%E9%81%8E%205%20%E5%88%86%E9%90%98%E9%82%84%E6%9C%83%E5%9B%9E%E4%BE%86**%E2%80%94%E2%80%94%E4%B8%8D%E7%84%B6%E4%B8%8B%E4%B8%80%E8%BC%AA%E5%B0%B1%E6%98%AF%E6%95%B4%E6%AE%B5%E9%87%8D%E5%AF%AB%EF%BC%8C%0A%20%20%20%20%E9%82%A3%E7%AD%86%E9%87%8D%E5%AF%AB%E6%AF%94%E5%A4%9A%E4%BB%98%E7%9A%84%E4%BF%9D%E7%95%99%E8%B2%BB%E8%B2%B4%E5%BE%97%E5%A4%9A%E3%80%82%E6%8A%8A%20%60my_rounds%60%20%E6%8B%89%E5%88%B0%2010%20%E5%86%8D%E6%AF%94%E4%B8%80%E6%AC%A1%EF%BC%8C%E5%B7%AE%E8%B7%9D%E6%9C%83%E7%B8%AE%E5%B0%8F%E5%BE%88%E5%A4%9A%EF%BC%8C%0A%20%20%20%20%E5%9B%A0%E7%82%BA%E5%91%BD%E4%B8%AD%E7%9A%84%E6%AC%A1%E6%95%B8%E8%AE%8A%E5%A4%9A%E4%BA%86%E3%80%82%0A%20%20%20%20%22%22%22%0A%20%20%20%20%20%20%20%20%20%20%20%20)%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20%22%F0%9F%92%A1%20LEVEL%202%20%E5%8F%83%E8%80%83%E8%A7%A3%E7%AD%94%22%3A%20mo.md(%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20r%22%22%22%0A%20%20%20%20%60%60%60python%0A%20%20%20%20for%20my_sys%20in%20(2_000%2C%2010_000%2C%2040_000)%3A%0A%20%20%20%20%20%20%20%20for%20my_rounds%20in%20(3%2C%2020)%3A%0A%20%20%20%20%20%20%20%20%20%20%20%20c%20%3D%20total(run_chat(my_rounds%2C%20my_sys%2C%201_000%2C%202_000))%0A%20%20%20%20%20%20%20%20%20%20%20%20p%20%3D%20total(run_chat(my_rounds%2C%20my_sys%2C%201_000%2C%202_000%2C%20cached%3DFalse))%0A%20%20%20%20%20%20%20%20%20%20%20%20print(f%22sys%3D%7Bmy_sys%20%2F%2F%201000%7DK%20n%3D%7Bmy_rounds%7D%3A%20%E7%9C%81%20%7B1%20-%20c%20%2F%20p%3A.0%25%7D%22)%0A%20%20%20%20%60%60%60%0A%0A%20%20%20%20%E8%B7%91%E5%87%BA%E4%BE%86%E6%9C%83%E6%98%AF%E9%80%99%E6%A8%A3%EF%BC%9A%0A%0A%20%20%20%20%7C%20%E7%B3%BB%E7%B5%B1%E6%8F%90%E7%A4%BA%20%7C%20%E8%81%8A%203%20%E8%BC%AA%20%7C%20%E8%81%8A%2020%20%E8%BC%AA%20%7C%0A%20%20%20%20%7C---%7C---%3A%7C---%3A%7C%0A%20%20%20%20%7C%202K%20%7C%2022%25%20%7C%2065%25%20%7C%0A%20%20%20%20%7C%2010K%20%7C%2032%25%20%7C%2068%25%20%7C%0A%20%20%20%20%7C%2040K%20%7C%2043%25%20%7C%2074%25%20%7C%0A%0A%20%20%20%20**%E8%BC%AA%E6%95%B8%E7%9A%84%E5%BD%B1%E9%9F%BF%E9%81%A0%E5%A4%A7%E6%96%BC%E7%B3%BB%E7%B5%B1%E6%8F%90%E7%A4%BA%E9%95%B7%E5%BA%A6%E3%80%82**%E7%B3%BB%E7%B5%B1%E6%8F%90%E7%A4%BA%E5%8F%AA%E6%98%AF%E4%B8%80%E6%AE%B5%E5%9B%BA%E5%AE%9A%E7%9A%84%E5%89%8D%E7%B6%B4%EF%BC%8C%0A%20%20%20%20%E5%B0%8D%E8%A9%B1%E6%AD%B7%E5%8F%B2%E5%8D%BB%E6%98%AF%E6%AF%8F%E8%BC%AA%E9%83%BD%E5%9C%A8%E9%95%B7%E5%A4%A7%E7%9A%84%E9%82%A3%E4%B8%80%E6%AE%B5%E2%80%94%E2%80%94%E8%81%8A%E5%BE%97%E8%B6%8A%E4%B9%85%EF%BC%8C%E8%A2%AB%E9%87%8D%E8%A4%87%E8%A8%88%E5%83%B9%E7%9A%84%E6%9D%B1%E8%A5%BF%E8%B6%8A%E5%A4%9A%EF%BC%8C%0A%20%20%20%20%E5%BF%AB%E5%8F%96%E5%90%83%E6%8E%89%E7%9A%84%E6%AF%94%E4%BE%8B%E5%B0%B1%E8%B6%8A%E9%AB%98%E3%80%82%E6%89%80%E4%BB%A5%E6%9C%80%E6%9C%89%E6%95%88%E7%9A%84%E7%9C%81%E9%8C%A2%E5%8B%95%E4%BD%9C%E4%B8%8D%E6%98%AF%E6%8A%8A%E7%B3%BB%E7%B5%B1%E6%8F%90%E7%A4%BA%E5%A3%93%E7%9F%AD%EF%BC%8C%0A%20%20%20%20%E6%98%AF**%E5%88%A5%E5%8B%95%E4%B8%8D%E5%8B%95%E5%B0%B1%E9%96%8B%E4%B8%80%E5%80%8B%E6%96%B0%E5%B0%8D%E8%A9%B1**%E3%80%82%0A%20%20%20%20%22%22%22%0A%20%20%20%20%20%20%20%20%20%20%20%20)%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20%22%F0%9F%92%A1%20LEVEL%203%20%E6%8F%90%E7%A4%BA%22%3A%20mo.md(%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20r%22%22%22%0A%20%20%20%20%E5%81%9A%E6%B3%95%EF%BC%9A%E5%85%88%E7%94%A8%20%60run_chat(n%2C%20sys%2C%201_000%2C%202_000)%60%20%E7%AE%97%E3%80%8C%E4%B9%96%E4%B9%96%E8%81%8A%E5%AE%8C%E3%80%8D%EF%BC%8C%0A%20%20%20%20%E5%86%8D%E7%94%A8%20%60breaks%3D%7Ba%3A%200%2C%20b%3A%200%7D%60%20%E7%AE%97%E3%80%8C%E5%9C%A8%E7%AC%AC%20a%E3%80%81b%20%E8%BC%AA%E6%8F%9B%E6%A8%A1%E5%9E%8B%E3%80%8D%EF%BC%8C%E5%85%A9%E8%80%85%E7%9B%B8%E6%B8%9B%E3%80%82%0A%0A%20%20%20%20**%E6%80%8E%E9%BA%BC%E9%A9%97%E8%AD%89%E8%87%AA%E5%B7%B1%E5%81%9A%E5%B0%8D%E4%BA%86**%EF%BC%9A%E5%B7%AE%E9%A1%8D%E6%87%89%E8%A9%B2%E7%AD%89%E6%96%BC%0A%20%20%20%20%E3%80%8C%E6%8F%9B%E6%A8%A1%E5%9E%8B%E7%95%B6%E4%B8%8B%E7%9A%84%E6%AD%B7%E5%8F%B2%E9%95%B7%E5%BA%A6%20%C3%97%EF%BC%88%E5%AF%AB%E5%85%A5%E5%83%B9%20%E2%88%92%20%E5%91%BD%E4%B8%AD%E5%83%B9%EF%BC%89%E3%80%8D%E3%80%82%0A%0A%20%20%20%20%E4%BB%A5%E7%AC%AC%205%EF%B8%8F%E2%83%A3%20%E7%AF%80%E7%9A%84%2012%20%E8%BC%AA%E6%83%85%E5%A2%83%E9%A9%97%E7%AE%97%EF%BC%9A%E5%9C%A8%E7%AC%AC%204%20%E8%BC%AA%E6%8F%9B%E4%B8%80%E6%AC%A1%E6%A8%A1%E5%9E%8B%E5%A4%9A%E4%BB%98%20%5C%240.218%EF%BC%8C%0A%20%20%20%20%E8%80%8C%E7%AC%AC%204%20%E8%BC%AA%E9%96%8B%E5%A7%8B%E5%89%8D%E7%9A%84%E6%AD%B7%E5%8F%B2%E6%AD%A3%E5%A5%BD%E6%98%AF%2019K%EF%BC%8C%0A%20%20%20%20%6019_000%20%2F%201e6%20*%20(12.5%20-%201)%20%3D%200.2185%60%E2%80%94%E2%80%94%E5%B0%8D%E4%B8%8A%E4%BA%86%E3%80%82%0A%20%20%20%20%E6%AF%8F%E5%A4%9A%E6%8F%9B%E4%B8%80%E6%AC%A1%E6%A8%A1%E5%9E%8B%EF%BC%8C%E5%B0%B1%E5%A4%9A%E4%BB%98%E4%B8%80%E7%AD%86%E3%80%8C%E7%95%B6%E4%B8%8B%E6%AD%B7%E5%8F%B2%20%C3%97%20%5C%2411.5%2FMTok%E3%80%8D%EF%BC%8C%0A%20%20%20%20%E8%80%8C%E6%AD%B7%E5%8F%B2%E5%8F%AA%E6%9C%83%E8%B6%8A%E4%BE%86%E8%B6%8A%E9%95%B7%EF%BC%8C%E6%89%80%E4%BB%A5%E8%B6%8A%E6%99%9A%E6%8F%9B%E8%B6%8A%E8%B2%B4%E3%80%82%0A%0A%20%20%20%20%E5%81%9A%E5%AE%8C%E4%B9%8B%E5%BE%8C%E5%80%BC%E5%BE%97%E6%83%B3%E4%B8%80%E4%BB%B6%E4%BA%8B%EF%BC%9A%E9%80%99%E7%AD%86%E9%8C%A2%E8%B7%9F%E3%80%8C%E9%81%B8%E9%8C%AF%E6%A8%A1%E5%9E%8B%E3%80%8D%E6%AF%94%E8%B5%B7%E4%BE%86%E6%98%AF%E5%A4%A7%E6%98%AF%E5%B0%8F%EF%BC%9F%0A%20%20%20%20%E5%BF%AB%E5%8F%96%E7%9C%81%E7%9A%84%E6%98%AF%E9%9B%B6%E9%A0%AD%EF%BC%8C**%E9%81%B8%E5%B0%8D%E6%A8%A1%E5%9E%8B%E7%9C%81%E7%9A%84%E6%98%AF%E5%A4%A7%E9%A0%AD**%E2%80%94%E2%80%94%E4%BD%86%E9%9B%B6%E9%A0%AD%E6%98%AF%E4%BD%A0%E4%B8%8D%E7%94%A8%E5%8B%95%E8%85%A6%E5%B0%B1%E8%83%BD%E7%9C%81%E4%B8%8B%E7%9A%84%E3%80%82%0A%20%20%20%20%22%22%22%0A%20%20%20%20%20%20%20%20%20%20%20%20)%2C%0A%20%20%20%20%20%20%20%20%7D%0A%20%20%20%20)%0A%20%20%20%20return%0A%0A%0Aif%20__name__%20%3D%3D%20%22__main__%22%3A%0A%20%20%20%20app.run()%0A