Лидерный узел красного смещения, занимающий 100% диска

Question

у нас есть кластер красных смещений в 50 узлов, и мы периодически запускаем вакуум. и в настоящее время мы запускаем конвейер, где мы перемещаем некоторые данные на S3 и удаляем их из красного смещения.

примерно через 2 недели обработки. наше использование диска на 49 узлах (кроме лидера) снизилось с 95% до 80%. но использование диска на лидере возросло и теперь на 100%.

Я попытался перезагрузить кластер, чтобы увидеть, были ли временные файлы, которые занимали место. но это не помогло.

любое предложение было бы большим подспорьем на этом этапе.

Спасибо!

Answer 1

У вас могут быть некоторые "перекошенные" таблицы, что означает, что таблицы не распределены по узлам равномерно, следующий SQL даст вам список таблиц и на основе skew колонке, вам может потребоваться перераспределить ваши таблицы.

select trim(pgn.nspname) as schema, 
trim(a.name) as table, id as tableid, 
decode(pgc.reldiststyle,0, 'even',1,det.distkey ,8,'all') as distkey, dist_ratio.ratio::decimal(10,4) as skew, 
det.head_sort as "sortkey", 
det.n_sortkeys as "#sks", b.mbytes,  
decode(b.mbytes,0,0,((b.mbytes/part.total::decimal)*100)::decimal(5,2)) as pct_of_total, 
decode(det.max_enc,0,'n','y') as enc, a.rows, 
decode( det.n_sortkeys, 0, null, a.unsorted_rows ) as unsorted_rows , 
decode( det.n_sortkeys, 0, null, decode( a.rows,0,0, (a.unsorted_rows::decimal(32)/a.rows)*100) )::decimal(5,2) as pct_unsorted 
from (select db_id, id, name, sum(rows) as rows, 
sum(rows)-sum(sorted_rows) as unsorted_rows 
from stv_tbl_perm a 
group by db_id, id, name) as a 
join pg_class as pgc on pgc.oid = a.id
join pg_namespace as pgn on pgn.oid = pgc.relnamespace
left outer join (select tbl, count(*) as mbytes 
from stv_blocklist group by tbl) b on a.id=b.tbl
inner join (select attrelid, 
min(case attisdistkey when 't' then attname else null end) as "distkey",
min(case attsortkeyord when 1 then attname  else null end ) as head_sort , 
max(attsortkeyord) as n_sortkeys, 
max(attencodingtype) as max_enc 
from pg_attribute group by 1) as det 
on det.attrelid = a.id
inner join ( select tbl, max(mbytes)::decimal(32)/min(mbytes) as ratio 
from (select tbl, trim(name) as name, slice, count(*) as mbytes
from svv_diskusage group by tbl, name, slice ) 
group by tbl, name ) as dist_ratio on a.id = dist_ratio.tbl
join ( select sum(capacity) as  total
from stv_partitions where part_begin=0 ) as part on 1=1
where mbytes is not null 
order by  mbytes desc