Как я могу записать в Geode, используя адаптер Redis, а затем читать / реагировать на события, используя клиент Geode?
Я пытаюсь сделать следующее:
- Поместите некоторые данные в geode, используя соединитель redis
- Реагируйте на некоторые ключевые события создания / обновления, используя
CacheListener
- Прочитайте эти данные с помощью клиента Geode, и это
entrySet
метод по региону.
У меня уже были проблемы с доступом к данным redis из моего клиента Geode. Я должен был сделать следующее:
region.get(Coder.stringToByteArrayWrapper("key"));
У меня также было много проблем region.entrySet()
Работа. Во-первых, это вообще не работает с ClientRegionShortcut.PROXY
и кажется, что он работает только в 50% случаев с ClientRegionShortcut.CACHING_PROXY
,
Вот код, который я использую для проверки этого (обратите внимание, что я использую салат в качестве клиента Redis):
@Test
public void test_subscribe() throws InterruptedException, ExecutionException {
ClientCache cache = new ClientCacheFactory()
.addPoolLocator(HOST, LOCATOR_PORT)
.create();
@SuppressWarnings({ "rawtypes", "unchecked" })
CacheListener<ByteArrayWrapper, ByteArrayWrapper> cl = new CacheListenerAdapter() {
@Override
public void afterCreate(EntryEvent event) {
System.out.println("Created: " + event.getKey() + " = " + event.getNewValue());
}
@Override
public void afterUpdate(EntryEvent event) {
System.out.println("Updated: " + event.getKey() + " replacing " + event.getOldValue() + "with" + event.getNewValue());
}
};
Region<ByteArrayWrapper, ByteArrayWrapper> region = cache
.<ByteArrayWrapper, ByteArrayWrapper> createClientRegionFactory(ClientRegionShortcut.CACHING_PROXY)
.addCacheListener(cl)
.setKeyConstraint(ByteArrayWrapper.class)
.setValueConstraint(ByteArrayWrapper.class)
.create(GeodeRedisServer.STRING_REGION);
RedisClient client = RedisClient.create("redis://" + HOST);
StatefulRedisConnection<String, String> connection = client.connect();
RedisAsyncCommands<String, String> cmd = connection.async();
cmd.set("1", "HelloGeodeRedis").get();
cmd.set("2", "WorldGeodeRedis" + System.currentTimeMillis()).get();
System.out.println("FromRedis: " + cmd.get("2").get());
System.out.println("FromGeode: " + region.get(Coder.stringToByteArrayWrapper("2")));
for (Map.Entry<?, ?> entry : region.entrySet()) {
System.out.format("key = %s, value = %s\n", entry.getKey(), entry.getValue());
}
cache.close();
}
Мне интересно, связано ли 50% с серверами, на которых я работаю:
gfsh>describe region --name=ReDiS_StRiNgS
..........................................................
Name : ReDiS_StRiNgS
Data Policy : persistent partition
Hosting Members : my-redis
Non-Default Attributes Shared By Hosting Members
Type | Name | Value
------ | ----------- | --------------------
Region | size | 2
| data-policy | PERSISTENT_PARTITION
gfsh>describe region --name my-region
..........................................................
Name : my-region
Data Policy : persistent replicate
Hosting Members : my-server
my-redis
Non-Default Attributes Shared By Hosting Members
Type | Name | Value
------ | ----------- | --------------------
Region | data-policy | PERSISTENT_REPLICATE
| size | 2
| scope | distributed-ack
gfsh>list members
Name | Id
---------------- | -----------------------------------------------------------
my-locator | 172.16.202.245(my-locator:21234:locator)<ec><v0>:1024
my-server | 172.16.202.245(my-server:22154)<v1>:1025
my-redis | 172.16.202.245(my-redis:24890)<v2>:1026
Как вы можете видеть, область, которую я создал вручную, размещена на обоих серверах, но область, созданная redis, размещается только на сервере redis.
Ошибка, которую я получаю в 50% случаев, заключается в следующем:
org.apache.geode.cache.client.ServerOperationException: remote server on My-Computer(4352:loner):64103:58d54999: While performing a remote get
at org.apache.geode.cache.client.internal.AbstractOp.processObjResponse(AbstractOp.java:285)
at org.apache.geode.cache.client.internal.GetOp$GetOpImpl.processResponse(GetOp.java:143)
at org.apache.geode.cache.client.internal.AbstractOp.attemptReadResponse(AbstractOp.java:171)
at org.apache.geode.cache.client.internal.AbstractOp.attempt(AbstractOp.java:382)
at org.apache.geode.cache.client.internal.ConnectionImpl.execute(ConnectionImpl.java:275)
at org.apache.geode.cache.client.internal.pooling.PooledConnection.execute(PooledConnection.java:332)
at org.apache.geode.cache.client.internal.OpExecutorImpl.executeWithPossibleReAuthentication(OpExecutorImpl.java:900)
at org.apache.geode.cache.client.internal.OpExecutorImpl.execute(OpExecutorImpl.java:158)
at org.apache.geode.cache.client.internal.OpExecutorImpl.execute(OpExecutorImpl.java:115)
at org.apache.geode.cache.client.internal.PoolImpl.execute(PoolImpl.java:763)
at org.apache.geode.cache.client.internal.GetOp.execute(GetOp.java:91)
at org.apache.geode.cache.client.internal.ServerRegionProxy.get(ServerRegionProxy.java:116)
at org.apache.geode.internal.cache.LocalRegion.findObjectInSystem(LocalRegion.java:2776)
at org.apache.geode.internal.cache.LocalRegion.nonTxnFindObject(LocalRegion.java:1488)
at org.apache.geode.internal.cache.LocalRegionDataView.findObject(LocalRegionDataView.java:175)
at org.apache.geode.internal.cache.LocalRegion.get(LocalRegion.java:1377)
at org.apache.geode.internal.cache.LocalRegion.get(LocalRegion.java:1310)
at org.apache.geode.internal.cache.LocalRegion.get(LocalRegion.java:1295)
at org.apache.geode.internal.cache.AbstractRegion.get(AbstractRegion.java:320)
at trial.GeodeTest.test_subscribe(GeodeTest.java:112)
at sun.reflect.NativeMethodAccessorImpl.invoke0(Native Method)
at sun.reflect.NativeMethodAccessorImpl.invoke(NativeMethodAccessorImpl.java:62)
at sun.reflect.DelegatingMethodAccessorImpl.invoke(DelegatingMethodAccessorImpl.java:43)
at java.lang.reflect.Method.invoke(Method.java:498)
at org.junit.runners.model.FrameworkMethod$1.runReflectiveCall(FrameworkMethod.java:50)
at org.junit.internal.runners.model.ReflectiveCallable.run(ReflectiveCallable.java:12)
at org.junit.runners.model.FrameworkMethod.invokeExplosively(FrameworkMethod.java:47)
at org.junit.internal.runners.statements.InvokeMethod.evaluate(InvokeMethod.java:17)
at org.junit.runners.ParentRunner.runLeaf(ParentRunner.java:325)
at org.junit.runners.BlockJUnit4ClassRunner.runChild(BlockJUnit4ClassRunner.java:78)
at org.junit.runners.BlockJUnit4ClassRunner.runChild(BlockJUnit4ClassRunner.java:57)
at org.junit.runners.ParentRunner$3.run(ParentRunner.java:290)
at org.junit.runners.ParentRunner$1.schedule(ParentRunner.java:71)
at org.junit.runners.ParentRunner.runChildren(ParentRunner.java:288)
at org.junit.runners.ParentRunner.access$000(ParentRunner.java:58)
at org.junit.runners.ParentRunner$2.evaluate(ParentRunner.java:268)
at org.junit.runners.ParentRunner.run(ParentRunner.java:363)
at org.eclipse.jdt.internal.junit4.runner.JUnit4TestReference.run(JUnit4TestReference.java:86)
at org.eclipse.jdt.internal.junit.runner.TestExecution.run(TestExecution.java:38)
at org.eclipse.jdt.internal.junit.runner.RemoteTestRunner.runTests(RemoteTestRunner.java:459)
at org.eclipse.jdt.internal.junit.runner.RemoteTestRunner.runTests(RemoteTestRunner.java:678)
at org.eclipse.jdt.internal.junit.runner.RemoteTestRunner.run(RemoteTestRunner.java:382)
at org.eclipse.jdt.internal.junit.runner.RemoteTestRunner.main(RemoteTestRunner.java:192)
Caused by: org.apache.geode.cache.RegionDestroyedException: Server connection from [identity(192.168.64.106(4352:loner):64103:58d54999,connection=1; port=64103]: Region named /ReDiS_StRiNgS/ReDiS_StRiNgS was not found during get request
at org.apache.geode.internal.cache.tier.sockets.BaseCommand.writeRegionDestroyedEx(BaseCommand.java:615)
at org.apache.geode.internal.cache.tier.sockets.command.Get70.cmdExecute(Get70.java:126)
at org.apache.geode.internal.cache.tier.sockets.BaseCommand.execute(BaseCommand.java:165)
at org.apache.geode.internal.cache.tier.sockets.ServerConnection.doNormalMsg(ServerConnection.java:780)
at org.apache.geode.internal.cache.tier.sockets.ServerConnection.doOneMessage(ServerConnection.java:911)
at org.apache.geode.internal.cache.tier.sockets.ServerConnection.run(ServerConnection.java:1166)
at java.util.concurrent.ThreadPoolExecutor.runWorker(ThreadPoolExecutor.java:1142)
at java.util.concurrent.ThreadPoolExecutor$Worker.run(ThreadPoolExecutor.java:617)
at org.apache.geode.internal.cache.tier.sockets.AcceptorImpl$1$1.run(AcceptorImpl.java:523)
at java.lang.Thread.run(Thread.java:745)
Итак, у вас есть полный отказ от ответственности, потому что я тестирую это потому, что я хочу поместить данные из темы kafka в geode, используя kafka-connect-redis, чтобы избежать необходимости кодировать сам разъем geode kafka.
РЕДАКТИРОВАТЬ: 50% проблема была решена благодаря @Swapnil, но теперь я вернулся к решению проблем entrySet
и уведомления о событиях работы. Кажется, что если я не получу принудительно ключ, который я положил с помощью клиента Redis, я не получу EntryEvent
уведомление.
2 ответа
Проблема, с которой я не получил события, заключалась в том, что я не зарегистрировал интерес к ключам, которые меня интересовали.
Добавление region.registerInterestRegex(".*");
позволяет отметить интерес к каждому ключу. Требуется настроить ClientCache
с .setPoolSubscriptionEnabled(true)
,
ClientCache cache = new ClientCacheFactory()
.addPoolLocator(HOST, LOCATOR_PORT)
.setPoolSubscriptionEnabled(true)
.create();
// ...
Region<ByteArrayWrapper, ByteArrayWrapper> region = cache
.<ByteArrayWrapper, ByteArrayWrapper> createClientRegionFactory(ClientRegionShortcut.CACHING_PROXY)
.addCacheListener(cl)
.setKeyConstraint(ByteArrayWrapper.class)
.setValueConstraint(ByteArrayWrapper.class)
.create(GeodeRedisServer.STRING_REGION);
region.registerInterestRegex(".*");
// ...
Я подозреваю, что это способ запуска ваших серверов Geode. У меня не было проблем при настройке кластера Geode следующим образом:
gfsh>start locator --name=loc1
gfsh>start server --name=serv1 --redis-port=1111 --redis-bind-address=localhost
gfsh>start server --name=serv2 --server-port=40405 --redis-port=2222 --redis-bind-address=localhost
описать регионы показывает мне, что RedisStrings был создан на обоих серверах:
gfsh> опишите регион --name=/ReDiS_StRiNgS .......................................................... Имя: ReDiS_StRiNgS Политика данных: раздел Хостинг Участники: serv2 serv1 Атрибуты не по умолчанию, используемые участниками хостинга Тип | Имя | Значение ------ | ----------- | --------- Регион | размер | 0 | политика в отношении данных | PARTITION
Затем из моей тестовой программы я вставил данные, используя Redis (клиент Jedis), а затем успешно считал данные из Geode:
public void putRedis() {
Jedis jedis = new Jedis("localhost", 1111);
for (int i=0; i<10; i++) {
jedis.set("foo"+i, "bar"+i);
}
}
public void readGeode() {
ClientCacheFactory clientCacheFactory = new ClientCacheFactory();
clientCacheFactory.addPoolLocator("localhost", 10334);
ClientCache client = clientCacheFactory.create();
Region redisStrings = client.createClientRegionFactory(ClientRegionShortcut.PROXY).create("ReDiS_StRiNgS");
for (int i=0; i<10; i++) {
System.out.println(redisStrings.get(Coder.stringToByteArrayWrapper("foo"+i)));
}
}