joimson-CSDN博客

原创 llama.cpp模型推理之界面篇

在《基于llama.cpp学习开源LLM本地部署》这篇中介绍了基于llama.cpp学习开源LLM本地部署。在最后简单介绍了API 的调用方式。不习惯命令行的同鞋，也可以试试 llama.cpp 界面的交互方式，本章就详细介绍一下server。llama.cpp 的 server 服务是基于 httplib 搭建的一个简单的HTTP API服务和与llama.cpp交互的简单web前端。-t N: 设置生成时要使用的线程数.: 设置批处理和提示处理期间使用的线程数。

2024-01-09 19:03:53 1772

原创基于llama.cpp学习开源LLM本地部署

LLM大模型学的时间也有大半年了，相关的模型、工具、技术和知识等也更新比较快。很多东西之前都没有留痕，回头一看，学了个寂寞。以上只是简单介绍了llama.cpp的编译和使用，更多的功能官方也写的很详细。如果想在android上运行，具体怎么编，官方也介绍的很清楚。

2024-01-09 10:31:39 1418

原创基于docker快速搭建facechain环境

最近facechain比较火，之前在试过，在SD的落地场景上提供了思路。这两天刚拿到一台RTX3090的服务器，在本地部署也遇到了两个问题，给大家分享一下。

2023-09-05 16:16:54 913

原创 VMWare在Ubuntu系统下无法启动问题

在Ubuntu系统安装了VMWare虚拟机，已开始还能打开VMWare，能进入正常VM界面。最近怎么进入不了VM主界面。启动虚拟机发现报错：Unable to install all modules. See ****;

2023-07-11 18:09:03 1718

原创如何为ubuntu增加 swap

经过上述步骤后，在Ubuntu下扩展swap分区就完成了。增加swap步骤: < 将swap分区增加到10G >（5）然后使用下列命令激活。（3）执行下列命令为。

2023-01-06 19:02:06 1280

原创 uwsgi 标准配置文件

[uwsgi]# uwsgi 启动时，所使用的IP何端口socket = 127.0.0.1:9090# web应用的入库模块名称module = start:app# 进程何线程配置processes = 4threads = 2# 开启线程模式enable-threads = true# 保证实例间独立lazy-apps = truemaster = true //主进程# 设置平滑重启的等待时间reload-mercy = 10 vacuum =.

2022-03-09 17:04:22 1229

原创 Failed to load resource: the server responded with a status of 416 (Requested Range Not Satisfiable)

报这个错误的原因是：尤其是资源请求的情况，最容易出现。1、你请求的对象大小超出预期，譬如你请求的文件对象大小为0kb解决 416 错误 –1、检测目标文件是否存在，是否大小正常。

2021-08-08 12:24:15 972

转载 zeromq源码分析笔记之无锁队列ypipe_t

文章出处：http://www.cnblogs.com/zengzy/p/5134568.html 摘抄拷贝，作者写的不错。mailbox_t的底层实际上使用了管道ypipe_t来存储命令。而ypipe_t实质上是一个无锁队列，其底层使用了yqueue_t队列，ypipe_t是对yueue_t的再包装，所以我们先来看看yqueue_t是怎么实现的。1、yqueue_t

2016-10-13 17:14:48 1368

原创 Oracle 在多线程下执行select会崩溃或闪退的问题。

问题：最近在拉取大数据时，发现select有时会崩溃会闪退会阻塞。数据中含有对象（Environment::OBJECT）;如线，面数据环境：由Environment::createEnvironment1（）创建一个环境。根据创建的环境来创建n个连接。这n个连接共用一个环境。其实在这就是创建了一个连接池。然后由线程池去调用。一般数据在拉取的时候没有问题。多线程

2016-08-12 18:56:44 1358

原创 openssl 线程安全 Windows

openssl 线程安全在初始化的时候调用 thread_setup，在结束的时候调用thread_cleanup。代码摘自crypto/threads/mttest.cstatic unsigned long _stdcall thread_id(void){unsigned long ret;ret=(unsigned long)GetCurrentThreadI

2016-03-20 15:58:15 2302

原创 curl with c_ares 编译

最近做了一个多线程下HTTP get请求，莫名其妙的异常，不是无法连接主机，就是崩溃。官方给的是curl是线程安全的，但其实用的时候就感觉很多问题，官方给的方案是带c-ares 的curl。1 下载curl URL：https://curl.haxx.se 解压，在解压目录下curl-7.47.1\winbuild 打开BUILD.WINDOWS.txt 看下文档里面的说明，然

2016-03-19 17:28:22 4989 2

原创 Windows 下编译VLC2.2.1 -Mys2+MinGW

Windows 下编译VLC2.2.0 -Mys2+MinGW准备工作：Msys21下载 MSYS2 URL: http://msys2.github.io/2 安装MSYS2 例如：c:\MSYS23 启动 MSYS2.bat安装相关的工具：在MSYS2界面执行：p

2015-10-14 16:40:45 3035 3

原创 Windows下编译VLC2.2.1 ---CygWin环境

Windows下编译VLC2.2.1 ----CygWin环境引言：编译VLC是件很头疼的事，运气好，一两个小时就搞定，运气不好，像我倒腾了两周才搞定。网上各种查，都没解决，他们虽然编译过了，可给的步骤却缺胳膊少腿的。最后没办法只能求助官网，可官网，如果不仔细再仔细，恐怕也是编不过。官网wiki：https://wiki.videolan.o

2015-10-14 16:37:18 5657 2

原创 CRtmpServer中BaseProtocol 简单介绍

class DLLEXP BaseProtocol {private: static uint32_t _idGenerator; uint32_t_id; //协议ID BaseClientApplication*_pApplication; //上层应用该协议将被注册到应用中pro

2015-08-18 16:04:45 910

原创 CRtmpserver协议链（protocol）

经过一段研究，对CRtmpserver 中的Protocol一直不知云云。尤其其中的FarProtocol和NearProtocol的概念。下面是官方的解释：The I/O is made as follows: +---+ +----+ +----+ +----+ +----+ +----+| T || P1 |

2015-08-06 16:18:12 767

原创 warning LNK4210: .CRT section exists; there may be unhandled static initializers or terminators

郁闷的是在编译后没有error的情况下给你再来个警告，一般警告我们意识的就是忽略。但下面一个你是不能忽略的warning LNK4210: .CRT section exists; there may be unhandled static initializers or terminators这个解决办法是你在Entry point 里面写东西了，你把他个清空就OK了，呵呵

2013-08-13 12:40:52 4581 2

原创连接库的问题

先看一下错误吧，之前在debug下编译时没有问题的，但在release下时有问题的：: error LNK2019: unresolved external symbol _strlen referenced in function "public: static unsigned int __cdecl std::char_traits::length(char const *)" (?le

2013-08-13 11:15:56 6703

原创 fatal error C1010: unexpected end of file while looking for precompiled header directive

出现这种错误的原因就是你的某个.cpp文件没有包含#include "stdafx.h"。恩，具体的就是你的某个.cpp文件“属性”->"c/c++"->"Precomplies header" 使用了“User Precomplier header (/yu)选项。解决办法：1 ，包含#include "stdafx.h" 2，改掉那个选项：No using Precomplier

2013-01-05 14:41:53 525

原创 wpf中使用Com

第一种：在工程中引用，这种方法快捷，但问题很多；第二种：使用Type和Activator来创建一个com对象首先应引入库using System.Runtime.InteropServices; 然后在需要的地方加入如下： Type type = Type

2012-01-05 11:01:11 1809 1

原创 dx中的BeginScene/EndScene

下面是msdn上的解释Applications notify Microsoft® Direct3D® Mobile that scene rendering is about to begin by calling the IDirect3DMobileDevice::Begi

2011-07-19 12:35:06 1407

原创窗口之间状态的切换

问题：同一个线程上有两个窗口，在主窗口上创建了一个非子窗口，默认的MFC框架，这个两个窗口的状态是可以切换的。但如果你要重写的时候，有时会出现他们之间的状态切换不了。如当你点击最小按钮时，另一个窗口除标题栏外，其他地方都不响应wm_NCLBUTTONDOWN消息。造成窗口假死状态。 解决：这是由于状态没有切换过来，造成的，当你最小化其中的一个，另一个窗口并没有激活。所以不响应WM_NCLBUTTONDOWN消息。怎样才能响应哪。办法是你在最小化时，调用SetActi

2010-06-04 17:30:00 663

原创 error LNK2019: unresolved external symbol "public: __cdecl std::_Lockit::~_Lockit(void)"

我把项目从vc移植到EVC中出现了一下相同的问题若干条： ::error LNK2019: unresolved external symbol "public: __cdecl std::_Lockit::~_Lockit(void)" 解决方法是：在“stdafx.cpp"中加入 #include "stdafx.h" _Lockit::_Lockit(){}

2010-04-27 16:11:00 2097

原创关于#pragma pack

对于结构体，在使用sizeof的时候会进行字节的对齐，对齐的规则如下：1) 结构体变量的首地址能够被其最宽基本类型成员的大小所整除；备注：编译器在给结构体开辟空间时，首先找到结构体中最宽的基本数据类型，然后寻找内存地址能被该基本数据类型所整除的位置，作为结构体的首地址。2) 结构体每个成员相对于结构体首地址的偏移量（offset）都是成员大小的整数倍，如有需要编译器会在成员之间加上填充字

2010-03-30 16:52:00 545

原创在烧写wince时 “Don't support raw image !!OEMVERIFYMEMORY: Invalid image” 的问题！

本人第一次做wince开发，就遇到了烧板的问题，搞了两三天，在网上搜时也搜到类似的问题，但那位兄弟有点不厚道自己搞出来了，也不贴一下。顶他而郁闷的人不少吧……，今天总于搞定了，其实没有什么技术含量。就是官方的光盘上的资料写的有点问题，如果严格按照那来，就会出现下面问题： System ready! Preparing for download... Please send the

2010-03-23 17:45:00 2178 2

原创 pthread_cond_wait() 函数

了解 pthread_cond_wait() 的作用非常重要 -- 它是 POSIX 线程信号发送系统的核心，也是最难以理解的部分。首先，让我们考虑以下情况：线程为查看已链接列表而锁定了互斥对象，然而该列表恰巧是空的。这一特定线程什么也干不了 -- 其设计意图是从列表中除去节点，但是现在却没有节点。因此，它只能：锁定互斥对象时，线程将调用 pthread_cond_wait(&mycond

2010-03-12 10:10:00 658

转载 asm volatile内嵌汇编用法简述

作者： bhw98 2003-11-05 __asm__ __volatile__内嵌汇编用法简述在阅读C/C++原码时经常会遇到内联汇编的情况，下面简要介绍下__asm__ __volatile__内嵌汇编用法。因为我们华清远见教学平台是ARM体系结构的，所以下面的示例都是用ARM汇编。　　带有C/C++表达式的内联汇编格式为：　　__asm__　__volati

2010-02-08 16:55:00 659

转载物理内存的访问(引）

作者： bhw98 2003-11-05 我们知道，在NT/2K/XP中，操作系统利用虚拟内存管理技术来维护地址空间映像，每个进程分配一个4GB的虚拟地址空间。运行在用户态的应用程序，不能直接访问物理内存地址；而运行在核心态的驱动程序，能将虚拟地址空间映射为物理地址空间，从而访问物理内存地址。如果要在应用程序中以物理地址方式访问内存，自然而然的办法，是编写一个专用的

2010-01-19 15:37:00 938

原创 Run-Time Check Failure #2 - Stack around the variable 'buf' was corrupted

Run-Time Check Failure #2 - Stack around the variable buf was corrupted 昨天这个问题缠绕了我一个下午。也许是这几天累了，一直没找到问题根本原因，不过趴下睡一觉，就解决了。这句话的意思是：运行时检测失败#2-在buf附近的栈遭到破坏。其实主要的原因是对buf越界访问了。解决办法是扩大buf栈的空间，就解决了

2009-12-11 13:50:00 2838

原创 lzw数据压缩算法的原理分析

1.LZW的全称是什么? Lempel-Ziv-Welch (LZW).2. LZW的简介和压缩原理是什么？ LZW压缩算法是一种新颖的压缩方法，由Lemple-Ziv-Welch 三人共同创造，用他们的名字命名。它采用了一种先进的串表压缩，将每个第一次出现的串放在一个串表中，用一个数字来表示串，压缩文件只存贮数字，则不存贮串，从而使图象文件的压缩效率得到较大的提高。奇妙的是，不管是在压缩还

2009-10-15 15:15:00 915

原创 RAR 文档格式

RAR 版本 3.00 - 技术信息 ~~~~~~~~~~~~~~~~~~~~~~~~ 下列压缩文件格式描述仅对版本 1.50 之后有效

2009-09-30 10:18:00 1601

原创根据DLL生成lib的命令

在程序使用Dll有两个加载方式，一种是动态方式，就是LoadLibrary载入Dll,然后用GetProcAddress来加载需要使用的Dll函数。另一种就是静态连接方式，将dll生成的lib，加入到工程中，然后就可以很方便的调用。我们知道很多dll在发布时不提供lib，没有lib我们就不能静态的加载，所以得想办法来生成一个lib，在vs2005中有这样的一个命令不过我们还需要一个def文

2009-09-21 16:19:00 2400

原创 vc++6.0编译UnRar.dll

最近没事研究了一下unRAR。源代码可以在dos下用nmake命令来生成一个release版本例：nmake makefile.msc如果在vc6.0或vs2005下编译，是通不过的，需要做下修改。在这你也可以参考一下《编译UnRar.dll的体验》不过不是很具体，但也给我不少启发。下面给出具体的步骤：首先，在vc6.0-中建立一个空的win32 dll项目然后，将.hpp和.c

2009-09-21 15:38:00 1569 3

void EnumFolders(){ WIN32_FIND_DATA fd; HANDLE hFind=::FindFirstFile(_T("*.*"),&fd); if(hFind!=INVALID_HANDLE_VALUE) { do{

2009-09-21 12:01:00 1486

转载彩虹表原理

彩虹表（Rainbow Table）是一种破解哈希算法的技术，它的性能非常让人震惊，在一台普通PC上辅以NVidia CUDA技术，对于NTLM算法可以达到最高每秒103,820,000,000次明文尝试（超过一千亿次），对于广泛使用的MD5也接近一千亿次。更神奇的是，彩虹表技术并非针对某种哈希算法的漏洞进行攻击，而是类似暴力破解，对于任何哈希算法都有效。这几乎是令人难以置信的，Rog

2009-09-11 10:14:00 4197 5

转载查找指定文件夹下的文件

#include#includeusing namespace std;/**********************_finddata_t结构体:struct _finddata_t { unsigned attrib ; time_t time_create ; time_t time_access ; time_t time_write ; _fsize_t size ; ch

2009-09-08 10:06:00 923

转载 SHA1算法原理

1 SHA1算法简介安全哈希算法（Secure Hash Algorithm）主要适用于数字签名标准（Digital Signature Standard DSS）里面定义的数字签名算法（Digital Signature Algorithm DSA）。对于长度小于2^64位的消息，SHA1会产生一个160位的消息摘要。当接收到消息的时候，这个消息摘要可以用来验证数据的完整性。在传输的过程

2009-09-01 16:37:00 1064

转载解析cdecl，fastcall， __stdcall 的不同:

解析__cdecl，__fastcall， __stdcall 的不同:在函数调用过程中，会使用堆栈，这三个表示不同的堆栈调用方式和释放方式。比如说__cdecl，它是标准的c方法的堆栈调用方式，就是在函数调用时的参数压入堆栈是与函数的声明顺序相反的，其它两个可以看MSDN，不过这个对我们编程没有太大的作用 --------------------------------------------

2009-08-04 11:56:00 758

原创获取当前鼠标点处的窗口

void CGetWndDlg::OnMouseMove(UINT nFlags, CPoint point) { // TODO: Add your message handler code here and/or call default CWnd *pWnd=WindowFromPoint(point); if(AfxIsValidAddress(pWnd,sizeof(CWnd))) {

2009-06-08 10:12:00 800

原创关于CDC::DrawText()函数的妙用

CDC::DrawText 这个函数是在某个位置按某个格式输出一个文本。它有两个格式：如下virtual int DrawText(LPCTSTR lpszString, int nCount, LPRECT lpRect, UINT nFormat);int DrawText(const CString& str, LPRECT lpRect, UNIT nFormat);返回值：如果成功，则返

2009-05-02 14:49:00 12538

转载 CalcWindowRect

虚函数 CalcWindowRect　　每当主框架窗口的客户区尺寸发生变化或控制条的位置发生变化，需要重新排列客户区时，调用该函数，根据视图客户区尺寸计算视图窗口的尺寸。　　我们知道，排列主窗口客户区是由CFrameWnd::RecalcLayout()完成的。显然，视图的CalcWindowRect()函数也是由它触发调用的。主窗口的客户区尺寸减掉所有控制占用的部分，剩下的区域分

2009-04-28 16:00:00 4097