serving proxy配置详解

serving-proxy的配置详解

serving-proxy的配置包括三个部分

• application.properties
• route_table.json
• auth_config.json
• log4j.xml

application.properties

配置项	配置项含义	默认值
coordinator	当前Proxy服务PartyID	9999
server.port	Proxy服务监听端口	8081
management.server.port	Actuator监听端口	10087
management.endpoints.web.exposure.include	Actuator暴露部分端点	health,info,metrics
routeType	路由策略，可配置为random, consistent	random
route.table	路由表路径，配置服务路由规则	/data/projects/fate-serving/serving-proxy/conf/route_table.json
auth.file	鉴权配置文件，配置proxy调用鉴权信息	/data/projects/fate-serving/serving-proxy/conf/auth_config.json
useZkRouter	如果为true，在rpc调用时会使用注册中心中的地址进行路由	FALSE
zk.url	zookeeper 集群地址 ,例子:zookeeper://localhost:2181?backup=localhost:2182,localhost:2183	zookeeper://localhost:2181?backup=localhost:2182,localhost:2183
acl.enable	是否使用zookeeper acl	FALSE
acl.username	acl 用户名
acl.password	acl 密码
proxy.grpc.intra.port	当前Party内对grpc服务端口，用于proxy与内部server的交互	8867
proxy.grpc.inter.port	当前Party对外grpc服务端口，用于proxy与外部proxy的交互	8869
proxy.grpc.inference.timeout	在线预测超时时间，单位ms	3000
proxy.grpc.inference.async.timeout	获取在线预测结果超时时间，单位ms	1000
proxy.grpc.unaryCall.timeout	grpc服务unaryCall调用超时时间，单位ms	3000
inference.service.name	角色名称，该值会在接口路由时会用到，详情可参考路由表的配置	serving
proxy.grpc.threadpool.coresize	grpc服务线程池核心线程数	50
proxy.grpc.threadpool.maxsize	grpc服务线程池最大线程数	100
proxy.grpc.threadpool.queuesize	grpc服务线程池队列最大长度	10
proxy.async.timeout	http异步调用超时时间，单位ms	5000
proxy.async.coresize	http异步调用线程池核心线程数	10
proxy.async.maxsize	http异步调用线程池最大线程数	100
proxy.grpc.pool.maxTotal	ManagedChannel最大连接数	64
proxy.grpc.pool.maxIdle	ManagedChannel最大空闲连接数	64

route_table.json

请参考路由表配置

auth_config.json

请参考鉴权配置

log4j.xml

请参考日志配置详解